Kemajuan alat AI generatif telah menciptakan masalah baru bagi internet: maraknya gambar telanjang sintetis menyerupai orang sungguhan. Pada hari Kamis, Microsoft mengambil langkah besar untuk memberikan korban revenge porn sebuah alat untuk menghentikan mesin pencari Bing-nya menampilkan gambar-gambar ini.
Microsoft mengumumkan kemitraan dengan Hentikan NCII, sebuah organisasi yang memungkinkan para korban revenge porn untuk membuat sidik jari digital dari gambar-gambar eksplisit ini, nyata atau tidak, di perangkat mereka. Mitra StopNCII kemudian menggunakan sidik jari digital tersebut, atau “hash” sebagaimana secara teknis dikenal, untuk menghapus gambar dari platform mereka. Bing milik Microsoft bergabung dengan Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, PornHub, dan OnlyFans dalam bermitra dengan StopNCII, dan menggunakan sidik jari digitalnya untuk menghentikan penyebaran revenge porn.
Di sebuah postingan blogMicrosoft mengatakan telah mengambil tindakan terhadap 268.000 gambar eksplisit yang dikembalikan melalui pencarian gambar Bing dalam uji coba hingga akhir Agustus dengan basis data StopNCII. Sebelumnya, Microsoft menawarkan alat pelaporan langsung, tetapi perusahaan mengatakan hal itu terbukti tidak cukup.
“Kami telah mendengar kekhawatiran dari para korban, pakar, dan pemangku kepentingan lainnya bahwa pelaporan pengguna saja mungkin tidak dapat memberikan dampak yang efektif atau mengatasi risiko akses citra melalui pencarian secara memadai,” kata Microsoft dalam posting blognya pada hari Kamis.
Anda dapat bayangkan betapa parahnya masalah itu jika mesin pencari tersebut jauh lebih populer: Google.
Google Search menawarkan layanannya sendiri alat untuk melaporkan dan menghapus gambar eksplisit dari hasil pencariannya, namun telah menghadapi kritik dari mantan karyawan dan korban karena tidak bermitra dengan StopNCII, menurut sebuah Investigasi WiredSejak 2020, pengguna Google di Korea Selatan telah melaporkan 170.000 pencarian dan tautan YouTube untuk konten seksual yang tidak diinginkan, Wired melaporkan.
Masalah AI deepfake nude sudah tersebar luas. Alat StopNCII hanya berfungsi untuk orang yang berusia di atas 18 tahun, tetapi situs “melepas pakaian” sudah ada menciptakan masalah bagi siswa sekolah menengah di seluruh negeri. Sayangnya, Amerika Serikat tidak memiliki undang-undang pornografi deepfake AI untuk meminta pertanggungjawaban siapa pun, sehingga negara tersebut mengandalkan pendekatan tambal sulam undang-undang negara bagian dan lokal untuk mengatasi masalah tersebut.
Jaksa San Francisco mengumumkan gugatan hukum pada bulan Agustus untuk menutup 16 situs yang paling “menyingkirkan pakaian”. Menurut sebuah laporan pelacak hukum pornografi deepfake dibuat oleh Wired, 23 negara bagian Amerika telah meloloskan undang-undang untuk mengatasi deepfake nonkonsensual, sementara sembilan negara bagian telah menolak proposal.
