Google AI kembali memperkenalkan pembuatan gambar manusia setelah kontroversi akurasi historis

Model AI Gemini Google sekali lagi mampu menghasilkan gambar manusia setelah fungsi tersebut “dihentikan sementara” pada bulan Februari setelah protes atas penggambaran ras yang tidak akurat secara historis dalam banyak hasil. Di sebuah postingan blogGoogle mengatakan bahwa model Imagen 3—yang pertama kali diumumkan pada bulan Mei—akan “mulai meluncurkan pembuatan gambar orang” untuk pengguna Gemini Advanced, Business, dan Enterprise dalam “beberapa hari mendatang.” Namun versi model Imagen tersebut—lengkap dengan kemampuan pembuatan gambar manusia—baru-baru ini tersedia untuk umum melalui lingkungan pengujian Gemini Labs tanpa langganan berbayar (meskipun akun Google diperlukan untuk masuk).

Model baru itu hadir dengan beberapa pengamanan untuk mencoba menghindari terciptanya gambar kontroversial, tentu saja. Google menulis dalam pengumumannya bahwa mereka tidak mendukung “pembuatan gambar individu yang fotorealistik dan dapat dikenali, penggambaran anak di bawah umur atau adegan yang sangat berdarah, penuh kekerasan atau seksual.” sebuah FAQGoogle mengklarifikasi bahwa larangan terhadap “individu yang dapat diidentifikasi” mencakup “pertanyaan tertentu yang dapat menghasilkan keluaran dari orang-orang terkemuka.” Dalam pengujian Ars, itu berarti pertanyaan seperti “Presiden Biden bermain basket” akan ditolak, sementara permintaan yang lebih umum untuk “seorang presiden AS bermain basket” akan menghasilkan beberapa opsi.

Dalam beberapa uji coba cepat sistem Imagen 3 yang baru, Ars menemukan bahwa sistem tersebut menghindari banyak jebakan rasial “yang secara historis tidak akurat” yang umum terjadi yang menyebabkan Google menghentikan sementara pembuatan gambar manusia Gemini sejak awal. Misalnya, dengan meminta Imagen 3 untuk “penggambaran raja Inggris yang secara historis akurat”, sekarang menghasilkan sekumpulan pria kulit putih berjanggut dengan jubah merah, bukan campuran prajurit yang beragam ras dari model Gemini sebelum jeda. Lebih banyak contoh sebelum/sesudah Gemini lama dan Imagen 3 yang baru dapat ditemukan di galeri di bawah ini.

Namun, beberapa upaya untuk menggambarkan adegan sejarah generik tampaknya melanggar aturan AI Google. Permintaan ilustrasi “seorang tentara Jerman tahun 1943″—yang sebelumnya dijawab Gemini dengan orang Asia dan kulit hitam berseragam ala Nazi—kini memberi tahu pengguna untuk “mencoba permintaan lain dan memeriksa kebijakan konten kami.” Permintaan gambar “filsuf Tiongkok kuno,” “pemimpin hak pilih perempuan yang sedang berpidato,” dan “sekelompok pengunjuk rasa tanpa kekerasan” juga menyebabkan pesan kesalahan yang sama dalam pengujian Ars.

“Tentu saja, seperti halnya alat AI generatif lainnya, tidak semua gambar yang dibuat Gemini akan sempurna, tetapi kami akan terus mendengarkan masukan dari pengguna awal sembari terus meningkatkan kemampuan,” tulis perusahaan tersebut di blognya. “Kami akan meluncurkannya secara bertahap, dengan tujuan untuk segera menyediakannya bagi lebih banyak pengguna dan bahasa.”

Gambar daftar oleh Google / Ars Technica