Saat ini, Google diumumkan langkah-langkah baru untuk memerangi penyebaran virus yang semakin meningkat Deepfake eksplisit nonkonsensual yang dihasilkan AI dalam hasil pencariannya.
Karena “peningkatan yang mengkhawatirkan dalam jumlah gambar dan video yang menggambarkan orang dalam konteks eksplisit seksual, yang didistribusikan di web tanpa persetujuan mereka,” Google mengatakan bahwa mereka berkonsultasi dengan “para ahli dan penyintas korban” untuk membuat beberapa “pembaruan signifikan” pada mesin pencari yang banyak digunakan untuk “lebih melindungi orang.”
Secara khusus, Google mempermudah target gambar eksplisit palsu—yang menurut para ahli sebagian besar adalah wanita—untuk melaporkan dan menghapus deepfake yang muncul di hasil penelusuran. Selain itu, Google mengambil langkah untuk menurunkan peringkat deepfake eksplisit “agar jenis konten ini tidak muncul di bagian atas hasil Penelusuran,” kata mesin pencari terkemuka di dunia itu.
Korban pornografi deepfake memiliki sebelumnya mengkritik Google karena tidak lebih proaktif dalam melawan deepfake di hasil pencarian. Menampilkan gambar dan melaporkan masing-masing gambar merupakan “proses yang menguras waktu dan energi” dan “pertempuran terus-menerus,” Kaitlyn Siragusa, seorang gamer Twitch dengan akun OnlyFans eksplisit yang sering menjadi sasaran deepfake, mengatakan kepada Bloomberg tahun lalu.
Sebagai tanggapan, Google telah berupaya untuk “mempermudah prosesnya,” sebagian dengan “membantu orang mengatasi masalah ini dalam skala besar.” Sekarang, ketika korban mengirimkan permintaan penghapusan, “sistem Google juga akan berusaha memfilter semua hasil eksplisit pada pencarian serupa tentang mereka,” kata blog Google. Dan setelah deepfake “berhasil dihapus,” Google “akan memindai—dan menghapus—duplikat gambar itu yang kami temukan,” kata blog tersebut.
Upaya Google untuk menurunkan peringkat konten palsu yang berbahaya juga telah meluas, kata raksasa teknologi itu. Untuk membantu individu yang menjadi sasaran deepfake, Google sekarang akan “menurunkan peringkat konten palsu yang eksplisit untuk” penelusuran yang menyertakan nama orang. Menurut Google, langkah ini saja telah “mengurangi paparan hasil gambar eksplisit pada jenis kueri ini hingga lebih dari 70 persen.”
Namun, Google tampaknya masih enggan menurunkan peringkat pencarian umum yang mungkin mengarahkan orang ke konten yang berbahaya. Pencarian Google yang cepat mengonfirmasi bahwa pencarian umum dengan kata kunci seperti “deepfake telanjang selebriti” mengarahkan pencari ke tujuan populer tempat mereka dapat mencari gambar intim selebriti tanpa persetujuan atau meminta gambar orang yang kurang terkenal.
Bagi para korban, intinya adalah bahwa tautan bermasalah akan tetap muncul di hasil pencarian Google bagi siapa saja yang ingin terus menggulir atau siapa saja yang sengaja mencari “deepfake.” Satu-satunya langkah yang diambil Google baru-baru ini untuk menurunkan peringkat situs deepfake teratas seperti Fan-Topia atau MrDeepFakes adalah janji untuk menurunkan peringkat “situs yang telah menerima banyak penghapusan karena citra eksplisit palsu.”
Saat ini belum jelas apa yang Google anggap sebagai “volume tinggi,” dan Google menolak permintaan Ars untuk mengomentari apakah situs-situs ini pada akhirnya akan diturunkan peringkatnya. Sebaliknya, juru bicara Google memberi tahu Ars bahwa “jika kami menerima sejumlah besar situs yang berhasil dihapus dari situs web tertentu berdasarkan kebijakan ini, kami akan menggunakannya sebagai sinyal peringkat dan menurunkan peringkat situs yang dimaksud untuk kueri yang mungkin memunculkan situs tersebut.”
Saat ini, kata juru bicara Google, Google fokus pada penurunan peringkat “kueri yang menyertakan nama individu,” yang “memiliki potensi tertinggi untuk menimbulkan kerugian bagi individu.” Namun, lebih banyak kueri akan diturunkan peringkatnya dalam beberapa bulan mendatang, kata juru bicara Google, dan Google terus mengatasi “tantangan teknis bagi mesin pencari” untuk membedakan antara “konten eksplisit yang nyata dan konsensual (seperti adegan telanjang seorang aktor)” dan “konten palsu eksplisit (seperti deepfake yang menampilkan aktor tersebut),” kata blog Google.
“Ini adalah upaya yang berkelanjutan, dan kami memiliki perbaikan tambahan yang akan dilakukan selama beberapa bulan ke depan untuk mengatasi berbagai pertanyaan yang lebih luas,” kata juru bicara Google kepada Ars.
Trauma deepfake “tidak pernah berakhir”
Dalam blognya, Google mengatakan bahwa “upaya ini dirancang untuk memberikan ketenangan pikiran kepada orang-orang, terutama jika mereka khawatir tentang konten serupa tentang mereka yang muncul di masa mendatang.”
Namun, banyak korban deepfake yang mengklaim bahwa menghabiskan waktu berjam-jam atau bahkan berbulan-bulan untuk menghapus konten berbahaya tidak memberikan harapan bahwa gambar tersebut tidak akan muncul kembali. Baru-baru ini, salah satu korban deepfake, Sabrina Javellana, mengatakan kepada The New York Times bahwa bahkan setelah negara bagian asalnya, Florida, mengesahkan undang-undang menentang deepfake, hal itu tidak menghentikan penyebaran gambar palsu secara daring.
Dia sudah menyerah untuk mencoba menghapus gambar-gambar itu di mana pun, dan mengatakan kepada The Times, “Ini tidak akan pernah berakhir. Saya hanya harus menerimanya.”
Menurut Perwakilan AS Joseph Morelle (D-NY), diperlukan undang-undang federal yang melarang deepfake untuk mencegah lebih banyak pelaku kejahatan melecehkan dan meneror wanita dengan pornografi deepfake. Ia telah memperkenalkan salah satu undang-undang tersebut, Undang-Undang Pencegahan Deepfake Gambar Intim, yang akan mengkriminalkan pembuatan deepfake. Saat ini undang-undang tersebut memiliki 59 sponsor di DPR dan dukungan bipartisan di Senat, kata Morelle pada sebuah panel minggu ini yang membahas bahaya deepfake, yang dihadiri Ars.
Morelle mengatakan bahwa dia telah berbicara dengan para korban deepfake, termasuk para remaja, dan memutuskan bahwa “larangan nasional dan serangkaian tindakan hukum pidana dan perdata nasional merupakan cara yang paling masuk akal” untuk mengatasi masalah tersebut dengan “urgensi.”
“Gabungan berbagai negara bagian dan yurisdiksi lokal dengan aturan yang berbeda” akan “sangat sulit dipahami” baik oleh korban maupun pelaku yang mencoba memahami apa yang legal, kata Morelle, sedangkan undang-undang federal yang mengenakan tanggung jawab dan hukuman pidana kemungkinan akan memiliki “dampak yang paling besar.”
Para korban, kata Morelle, setiap hari menderita kerugian mental, fisik, emosional, dan finansial, dan seperti yang dikemukakan oleh salah seorang panelis, Andrea Powell, tidak ada penyembuhan karena saat ini tidak ada keadilan bagi para penyintas selama periode “peningkatan kekerasan yang sangat banyak dan dahsyat ini,” Powell memperingatkan.
