Salah satu fitur peluncuran baru yang didukung AI pada seri Pixel 9 adalah Pixel Studio, sebuah aplikasi yang mengambil perintah teks dan mengubahnya menjadi gambar. Aplikasi ini mungkin menjadi alat kecil yang menyenangkan, tetapi menurut pengalaman kami, aplikasi ini juga dapat dengan mudah gagal.
Pixel Studio adalah aplikasi khusus untuk membuat gambar dari teks. Aplikasi ini bekerja dengan ide yang sama seperti Gemini dan GambarFXyang memungkinkan pengguna memasukkan perintah teks dan mendapatkan gambar sebagai balasannya. Namun, seperti generator gambar yang bagus, harus ada batasannya.
Dalam sebuah pernyataan kepada 9 hingga 5 GoogleGoogle menjelaskan bahwa ada batasan yang diberlakukan untuk Pixel Studio dan Magic Editor guna “mencegah penyalahgunaan” namun tetap menghormati “maksud dari perintah pengguna” meskipun diperintahkan untuk membuat konten yang “mungkin menyinggung” jika pengguna secara langsung memberi tahu aplikasi untuk melakukannya.
Pixel Studio dan Magic Editor adalah alat yang berguna yang dimaksudkan untuk membuka kreativitas Anda dengan pembuatan teks menjadi gambar dan penyuntingan foto tingkat lanjut di perangkat Pixel 9. Kami merancang alat AI Generatif kami untuk menghormati maksud dari perintah pengguna dan itu berarti alat tersebut dapat membuat konten yang dapat menyinggung ketika diperintahkan oleh pengguna untuk melakukannya. Meskipun demikian, tidak semuanya bisa dilakukan. Kami memiliki kebijakan Dan Ketentuan Layanan tentang jenis konten apa yang kami izinkan dan tidak izinkan, dan membangun pembatas untuk mencegah penyalahgunaan. Terkadang, beberapa perintah dapat menantang pembatas alat ini dan kami tetap berkomitmen untuk terus meningkatkan dan menyempurnakan pengamanan yang kami terapkan.
Hal ini serupa dengan Gemini, yang memiliki perlindungan terhadap konten yang berpotensi menyinggung atau memecah belah. Misalnya, Google dikritik karena penggambaran yang tidak akurat orang-orang dalam konteks sejarah yang menyebabkan Google “sementara” menonaktifkan kemampuan untuk menghasilkan gambar orang seperti yang telah dilakukan selama beberapa bulan terakhir.
Seperti Gemini, Pixel Studio tidak dapat menghasilkan gambar orang, tetapi kami menemukan bahwa aplikasinya dapat dengan cepat dan dengan mudah terlempar dari rel.
Menjelang embargo ulasan Pixel 9 hari ini, kami menemukan bahwa Pixel Studio mampu menghasilkan gambar karakter kartun dalam seragam Jerman Perang Dunia II, dalam beberapa kasus dengan simbol Nazi. Contoh lain yang mengejutkan dan mengkhawatirkan yang kami lihat (dari orang-orang di Tren Digital yang pertama kali menemukan masalah ini) melihat karakter sedang menembaki sekolah dengan anak-anak yang tewas di sekitarnya, yang mana model Google seharusnya tidak dapat dihasilkan sejak awal.
Sejak pertama kali melihat hasil tersebut, perintah yang digunakan untuk membuatnya tampaknya telah diblokir oleh Google di Pixel 9 Pro XL kami, tetapi Tren Digital mengatakan mereka masih dapat menggunakan beberapa diantaranya.
Ini semua menyiratkan bahwa pembatas di Pixel Studio pada dasarnya akan berubah menjadi permainan whack-a-mole yang tidak pernah berakhir. Di suatu tempat, entah bagaimana perintah akan lolos dan menciptakan sesuatu yang seharusnya tidak dapat dilakukan oleh aplikasi jika benar-benar menggunakan pembatas yang sama seperti Gemini – kami memeriksa dengan Google dan perusahaan tersebut mengatakan bahwa “semua” alat teks-ke-gambarnya “memiliki pedoman serupa untuk penggunaan yang dilarang,” yang menghubungkan ke kebijakan AI-nya.
Secara realistis, hal semacam ini tidak dapat dihindari dalam pembuatan gambar AI. Ini adalah masalah yang hampir semua pembuat gambar AI akan hadapi sampai batas tertentu. Abner Li kami menjelaskan dalam ulasan Pixel 9 Pro-nya hari ini:
Mengenai Pixel Studio, secara umum, saya pikir pembuatan gambar adalah jalan yang licin di mana sisi negatifnya lebih besar daripada sisi positifnya. Anda benar-benar dapat membuatnya menghasilkan konten yang meragukan dan saya rasa tidak ada pembatas yang dapat menghentikannya.
Selengkapnya tentang Google Pixel 9:
Ikuti Ben: Twitter/JawabannyaBahasa Indonesia: BenangDan Instagram
FTC: Kami menggunakan tautan afiliasi otomatis yang menghasilkan pendapatan. Lagi.
