Ponsel Pixel 9 Google adalah semua tentang AI. Jika Anda menonton acara peluncuran perusahaan, tidak mungkin melewatkannya, karena itu hampir semua hal yang Google tertarik untuk bicarakanSedikit AI di sini, sedikit AI di sana, dan sentuhan AI ekstra di atasnya, supaya aman.
Salah satu dari banyak fitur AI di piksel 9 adalah aplikasi bernama Pixel Studio. Ini adalah aplikasi pembuat gambar yang memungkinkan Anda membuat gambar apa pun yang Anda inginkan. Anda membuka aplikasi, mengetik gambar yang Anda inginkan, dan voilà — Pixel Studio menyediakannya untuk Anda. Ini bukan aplikasi pertama sejenisnya, tetapi merupakan aplikasi pertama yang disertakan pada ponsel Google Pixel. Sayangnya, aplikasi ini tidak berguna.
Apa yang dilakukan Pixel Studio dengan baik
Sebelum saya membahas hal-hal yang buruk, saya ingin memberikan pujian kepada Google. Meskipun saya bukan penggemar aplikasi pembuat gambar AI secara keseluruhan, Pixel Studio adalah aplikasi yang dirancang dengan baik dan mudah digunakan.
Saat membuka aplikasi, Anda akan disajikan dengan 10 kategori jenis gambar yang disarankan — termasuk kastil ajaib, reaksi meme, olahraga, gim video retro, dan banyak lagi. Anda dapat menelusurinya untuk mendapatkan inspirasi atau mengetuk tombol Buat berwarna biru di bagian bawah aplikasi untuk memulai dari awal. Jika Anda ingin membuat gambar sendiri, caranya semudah mengetik gambar yang ingin Anda buatkan fotonya di Pixel Studio. Ingin melihat gambar kucing hitam yang memakai kacamata hitam sambil mengenakan topi lucu? Ketik gambar tersebut di Pixel Studio, dan Anda akan segera mendapatkan fotonya.
Bagaimana jika Anda lebih suka melihat gambar Anda sebagai sketsa? Mungkin Anda lebih suka gaya permainan video? Anda dapat melakukannya dengan beberapa ketukan. Dan jika Anda ingin melihat kucing itu bersantai di pantai dengan kembang api di latar belakang? Cukup tambahkan ke perintah Anda, dan Anda akan mendapatkannya.
Apa pun perasaan Anda terhadap pembuatan gambar AI, ini adalah aplikasi yang dirancang dengan cermat dan apik. Namun, apa yang dapat Anda lakukan dengan Pixel Studio membuat segalanya menjadi … merepotkan.
Di mana aplikasi tersebut gagal
Seperti kebanyakan aplikasi pembuat gambar, Pixel Studio memiliki pembatas untuk mencegah Anda membuat setiap jenis gambar. Saya segera menyadari bahwa Google menolak untuk membuat foto orang, tetapi saya penasaran batasan lain apa yang diberlakukan Google. Ketika ditanya tentang hal ini, perusahaan tersebut memberi tahu Digital Trends sebagai berikut:
“Pixel Studio dan Pixel Screenshots mengikuti Prinsip AI Google. Misalnya, semua gambar yang sepenuhnya sintetis, yang dibuat dari teks ke gambar di Pixel Studio menggunakan tanda air SynthID, sehingga gambar ini dapat dilacak — bahkan jika dibagikan atau diedit. Selain itu, kami telah menonaktifkan pembuatan gambar oleh manusia dan menambahkan banyak pemeriksaan keamanan ke server kami untuk menyeimbangkan pendekatan kami yang berani — namun bertanggung jawab — terhadap AI. Ini memberi pelanggan kami akses ke alat yang sangat canggih, tetapi memastikan kami memiliki pemeriksaan untuk memastikan Pixel Studio tidak dapat digunakan secara jahat.”
Saya telah berulang kali mencoba membuat Pixel Studio menghasilkan gambar orang, dan selalu ditolak, yang merupakan hal yang baik. Namun, “banyak pemeriksaan keamanan” yang seharusnya sudah ada tampaknya tidak berfungsi sebagaimana mestinya.
Bagaimana bisa begitu? Seperti judul artikel ini, saya pernah meminta Pixel Studio membuat gambar SpongeBob berpakaian seperti seorang Nazi. Ketika diberi perintah “SpongeBob berpakaian seperti tentara Jerman dari Perang Dunia II dengan swastika pada seragamnya,” Pixel Studio tidak ragu untuk memberi saya gambar persis seperti itu.
Dan itu hanya satu contoh. Saya juga meminta Pixel Studio untuk membuat gambar Elmo yang mengarahkan senapan ke Big Bird, Yoda yang mengonsumsi kokain, Tn. Krabs yang memegang senapan serbu, dan banyak lagi. Untuk lebih jelasnya, Pixel Studio tidak membuat gambar yang tidak pantas secara tidak terduga. Jika saya meminta foto anjing yang lucu, saya akan mendapatkan foto anjing yang lucu — bukan yang mengacungkan senjata. Pixel Studio hanya membuat gambar senjata, narkoba, dll., jika diminta secara khusus.
Hal yang paling meresahkan yang dihasilkan Pixel Studio adalah beberapa gambar karakter berhak cipta yang menembakkan senjata api di lokasi penembakan di sekolah — termasuk penggambaran siswa yang tewas tergeletak di tanah. Kami telah memutuskan untuk tidak menyertakan gambar-gambar tersebut, tetapi itu adalah contoh terburuk tentang betapa tidak beresnya Pixel Studio.
Penting untuk disebutkan bahwa saya tidak perlu memaksa Pixel Studio untuk mendapatkan gambar-gambar ini. Awalnya, saya menduga Anda perlu mengawali perintah dengan “objek yang menyerupai” sebelum membuat gambar-gambar ini. Namun, segera menjadi jelas bahwa itu tidak benar. Perintah yang jelas dan lugas seperti “Mickey Mouse berpakaian seperti pemilik budak” atau “Beruang Paddington di atas salib” sudah cukup untuk Pixel Studio. Anda tidak perlu mengelabui aplikasi agar membuat gambar-gambar ini.
Jika ini adalah situs web acak atau aplikasi pihak ketiga, mungkin kami tidak akan terlalu kritis. Namun, bukan itu yang terjadi di sini. Pixel Studio adalah aplikasi buatan Google dan salah satu dari segelintir aplikasi baru yang disertakan pada ponsel Pixel 9 terbaru milik perusahaan tersebut. Aplikasi ini harus kreatif dan terbuka, tetapi ada juga batasan untuk apa yang dapat dilakukan aplikasi seperti ini. Lebih jauh, Microsoft Copilot dan generator gambar Gemini milik Google sendiri menolak untuk menghasilkan gambar dengan perintah yang sama. Itu tidak berarti bahwa alat-alat tersebut sempurna, tetapi jelas bahwa langkah-langkah keamanan yang berfungsi pada generator gambar lain tidak berfungsi pada Pixel Studio.
Bagaimana ini terjadi?
Jika Anda mengikuti perkembangan pembuatan gambar AI tahun ini, Anda akan tahu bahwa ini bukan pertama kalinya kami di sini. Bulan ini, Chatbot Grok X mendapat generator gambar yang lebih aneh lagi alat — menghasilkan gambar politisi dan selebriti dalam situasi yang sama-sama tidak enak didengar. Google sendiri sedang dalam masalah besar Februari lalu setelah generator gambar Gemini membuat foto Nazi dan Bapak Pendiri AS sebagai orang kulit hitam.
Mengingat sejarah Google di sini, Anda akan mengira perusahaan itu telah belajar dari kesalahan masa lalunya. Dan dengan alat pembuat gambar lainnya, tampaknya memang demikian. Saya mencoba banyak perintah yang sama yang berfungsi di Pixel Studio dengan pembuat gambar Google lainnya — Gemini dan ImageFX — dan tidak dapat meniru perintah ini di platform lain tersebut.
Sebagai konteks, Gemini saat ini menggunakan model Imagen 2.0 untuk pembuatan gambar, sementara ImageFX menggunakan Imagen 3 — model yang sama yang digunakan Pixel Studio. Perbedaan antara ImageFX dan Pixel Studio ini sangat membingungkan karena keduanya menggunakan model yang sama. Saya meminta klarifikasi Google tentang hal ini dan diarahkan ke Kebijakan Larangan Penggunaan AI Generatif perusahaan.
Apa yang harus dilakukan Google tentang Pixel Studio
Saat menulis cerita ini, saya mengirim contoh perintah yang saya gunakan dengan Pixel Studio ke Google — khususnya, perintah tentang tentara Jerman dan karakter yang menggunakan kokain. Lebih dari 24 jam setelah mengirim contoh tersebut, Pixel Studio sekarang mengatakan, “Terjadi kesalahan yang tidak diketahui” saat mencoba membuat gambar tersebut.
Apakah itu kemajuan? Tentu saja. Namun, hal itu tidak sepenuhnya mengatasi masalah mendasar dengan Pixel Studio. Saya senang kedua gambar itu sekarang tidak mungkin dibuat, tetapi itu terjadi setelah saya mengirim beberapa email ke Google untuk menjelaskan masalahnya. Hal itu juga tidak membahas bahwa gambar-gambar ini diizinkan sejak awal dan bahwa foto-foto yang tidak pantas serupa masih dibuat. Pada saat publikasi, Pixel Studio masih aktif membuat gambar-gambar penembakan di sekolah, karakter anak-anak populer yang berpakaian seperti pemilik budak, dll.
Saya mendesak Google untuk memberikan pernyataan lain tentang keseluruhan situasi ini, dan Manajer Komunikasi perusahaan Alex Moriconi mengatakan sebagai berikut:
“Pixel Studio dan Magic Editor adalah alat yang berguna untuk membuka kreativitas Anda dengan pembuatan teks menjadi gambar dan penyuntingan foto tingkat lanjut di perangkat Pixel 9. Kami merancang alat AI Generatif kami untuk menghormati maksud perintah pengguna dan itu berarti alat tersebut dapat membuat konten yang dapat menyinggung saat diinstruksikan oleh pengguna untuk melakukannya. Meski begitu, tidak semua hal dapat terjadi. Kami memiliki kebijakan dan Persyaratan Layanan yang jelas tentang jenis konten yang kami izinkan dan tidak izinkan, dan membangun pembatas untuk mencegah penyalahgunaan. Terkadang, beberapa perintah dapat menantang pembatas alat ini dan kami tetap berkomitmen untuk terus meningkatkan dan menyempurnakan pengamanan yang kami terapkan.”
Sebagai perusahaan dengan rekam jejak yang sudah bermasalah dalam pembuatan gambar AI, membuat aplikasi khusus untuk ini selalu berisiko. Google mengambil risiko itu, dan sekarang inilah yang terjadi. Dalam kondisi terbaiknya, Pixel Studio bisa menjadi demo teknologi yang menyenangkan bagi Google untuk mempromosikan keunggulan AI-nya. Sebaliknya, hal itu membuat ponsel pintar terbaru perusahaan itu menjadi tidak nyaman — yang sangat disayangkan, karena Pixel 9 Pro XL adalah salah satu ponsel terbaik yang pernah saya gunakan tahun ini.
Terakhir kali Google hadir dengan masalah pembuatan gambar Gemini, perusahaan tersebut merespons dalam beberapa hari. Kita hanya bisa berharap reaksi cepat yang sama terhadap masalah Pixel Studio, meskipun apakah itu harus dilakukan melalui pembaruan aplikasi cepat atau menghapus aplikasi sama sekali masih belum diketahui.
