Setelah terjadi peningkatan yang mengejutkan dalam jumlah video dan gambar porno palsu yang diunggah secara online dalam beberapa tahun terakhir, Google pada hari Rabu diumumkan langkah-langkah baru untuk membantu para korban dan mengurangi menonjolnya deepfake di hasil pencarian teratas.
Mesin pencari tersebut juga berkomitmen untuk mengambil langkah-langkah guna menurunkan peringkat situs web yang sering kali menghosting video palsu eksplisit seksual nonkonsensual — yang juga dikenal sebagai deepfake — yang berarti bahwa video tersebut mungkin muncul lebih rendah dalam hasil pencarian. Deepfake merujuk pada media palsu yang menyesatkan, yang semakin banyak dibuat menggunakan alat kecerdasan buatan.
Deepfake yang tidak mengandung unsur seksual sering kali “menukar” wajah korban ke tubuh seseorang dalam video porno yang sudah ada sebelumnya. Alat AI generatif juga telah digunakan untuk membuat gambar palsu namun realistis yang mengandung unsur seksual yang menggambarkan orang sungguhan, atau “menanggalkan pakaian“foto asli untuk membuat korban tampak telanjang. Praktik tersebut sangat mempengaruhi perempuan dan anak perempuan, baik tokoh publik maupun anak perempuan di sekolah menengah dan atas keliling dunia.
Pada tahun 2023, lebih banyak deepfake eksplisit seksual nonkonsensual yang diunggah daring dibandingkan tahun 2015. semua tahun sebelumnya digabungkan. Google dan mesin pencari lainnya telah lalu lintas terarah ke situs web yang memungkinkan pembuat deepfake mendapatkan keuntungan, serta menyertakan tautan ke video deepfake dan menampilkan gambar deepfake di hasil pencarian teratasPlatform ini juga sudah termasuk tautan ke alat digunakan untuk membuat deepfake eksplisit seksual nonkonsensual di hasil teratas.
Dalam hal ini pengumuman Rabu lalu, Google menyatakan akan menyaring konten eksplisit dari pencarian serupa setelah korban berhasil meminta penghapusan gambar palsu nonkonsensual eksplisit melalui formulir onlineSaat ini, para korban harus menandai setiap URL yang memuat gambar tersebut.
Google juga mengatakan akan memindai dan menghapus duplikat gambar deepfake eksplisit seksual nonkonsensual dari hasil pencarian setelah gambar berhasil ditandai dan dihapus.
“Upaya ini dirancang untuk memberikan ketenangan pikiran kepada masyarakat, terutama jika mereka khawatir tentang konten serupa yang muncul di masa mendatang,” kata pengumuman Google.
Google tidak secara proaktif memindai deepfake baru untuk dihapus, dan hanya akan menghapus deepfake jika korban berhasil menandainya.
Berita NBC dilaporkan sebelumnya bahwa ketika alat pencarian aman dimatikan, hasil untuk kueri seperti “deepfake” dan “foto telanjang palsu” akan memunculkan materi tersebut di hasil teratas, di atas artikel berita relevan tentang tren yang sedang berkembang.
Kini, Google menyatakan pihaknya bermaksud memberi peringkat artikel berita relevan di atas deepfake, termasuk saat seseorang menelusuri nama seseorang dan kata “deepfake”.
“Dengan perubahan ini, orang-orang dapat mengetahui dampak deepfake terhadap masyarakat, daripada melihat halaman-halaman yang berisi gambar-gambar palsu yang sebenarnya tanpa persetujuan,” kata pengumuman tersebut.
Google juga mengatakan akan menurunkan peringkat situs web yang dikaitkan dengan banyaknya permintaan penghapusan deepfake di hasil pencarian. Salah satu situs web paling menonjol untuk deepfake eksplisit seksual nonkonsensual, yang peringkat tinggi di beberapa hasil pencarian Google, telah menggunakan berbagai macam taktik untuk memonetisasi materi tersebut.
“Pendekatan ini telah berhasil dengan baik untuk jenis konten berbahaya lainnya, dan pengujian kami menunjukkan bahwa pendekatan ini akan menjadi cara yang berharga untuk mengurangi konten eksplisit palsu dalam hasil penelusuran,” kata Google.
Pengumuman ini menyusul tekanan dari anggota parlemen untuk mengatasi masalah tersebut. Pada bulan Juni, Ketua Senat Kehakiman Dick Durbin, D-Ill., mengirim surat kepada CEO Google yang menanyakan rincian tentang bagaimana rencananya untuk memerangi deepfake. Perundang-undangan federal yang diperkenalkan oleh Durbin akan memungkinkan korban deepfake eksplisit seksual nonkonsensual untuk menuntut pelaku; undang-undang ini disahkan Senat minggu lalu dan sedang menunggu pemungutan suara di DPR.
