Untuk mengatasi banyaknya gambar “deepfake” yang eksplisit, Google akan mempermudah orang untuk menghapus gambar telanjang diri mereka yang dibuat oleh AI dari Penelusuran, kata perusahaan tersebut dalam sebuah pernyataan. postingan blog di hari Rabu.
Gambar dan video deepfake menggunakan teknologi AI untuk memaksakan wajah seseorang pada tubuh orang lain. Terkadang hal ini dapat lucuseperti meniru wajah dan suara Ron Swanson dari acara Parks and Recreation di atas Wednesday Addams dari The Addams Family. Di waktu lain, bisa jadi bermasalahseperti saat menggunakannya untuk secara keliru menggambarkan Presiden Ukraina Volodymyr Zelenskyy yang memerintahkan pasukannya untuk menyerah kepada pasukan Rusia.
Ketika teknologi ini hadir di internet beberapa tahun lalu, orang-orang mulai menggunakannya untuk membuat gambar-gambar selebriti yang mengandung unsur seksual. Teknologi deepfake yang semakin mudah diakses telah menghasilkan gambar-gambar palsu yang mengandung unsur seksual berdasarkan orang-orang biasa, bukan hanya tokoh masyarakat. Perubahan-perubahan ini dimaksudkan untuk membantu menghilangkan gambar-gambar tersebut.
Sekarang, ketika seseorang meminta penghapusan deepfake eksplisit nonkonsensual dari PenelusuranGoogle mengatakan sistemnya akan berusaha memfilter semua penelusuran eksplisit lainnya tentang mereka dari Penelusuran. Dan, saat sistem di-ping untuk menghapus satu gambar eksplisit dari Penelusuran, Google akan berusaha menghapus duplikat gambar tersebut dari hasil Penelusuran. Perlu dicatat bahwa menghapus deepfake eksplisit yang dihasilkan AI dari Penelusuran tidak berarti gambar tersebut telah dihapus sepenuhnya dari internet.
Google menolak menanggapi permintaan komentar lebih lanjut.
Seiring dengan semakin demokratisnya teknologi AI, peluncuran AI menjadi perhatian utama ObrolanGPT pada akhir tahun 2022, masalah juga muncul. Terjadi peningkatan keterangan yg salah Dan kejahatan dunia mayaSistem AI juga membutuhkan daya yang signifikan untuk beroperasi, yang buruk bagi lingkungan. Namun, dari sisi visual, ada peningkatan jumlah foto telanjang palsu. Dulu, foto-foto palsu ini memerlukan waktu dan keterampilan photoshop untuk membuatnya, tetapi sekarang, dalam hitungan detik, mudah untuk membuat gambar eksplisit, baik berdasarkan karakter fiksi maupun orang sungguhan. Sudah ada beberapa kasus orang-orang yang menghasilkan materi pelecehan seksual anak dengan AI atau menggunakan teknologi untuk membuat foto telanjang palsu teman sekelas mereka.
Bahkan ketika Wall Street terus memberi penghargaan kepada perusahaan AI dengan investasi besar-besaran (beberapa diantaranya sekarang sedang mengalami tempering), pemerintah di seluruh dunia berjuang untuk mengatur teknologi transformatif yang terus berkembang pesat.
Google juga mengatakan bahwa mereka sedang meningkatkan sistem pemeringkatannya untuk melindungi dari konten yang berbahaya. Konten palsu yang eksplisit akan diturunkan di Penelusuran. Jika Anda mencari nama seseorang, Google akan meningkatkan konten noneksplisit berkualitas tinggi, seperti artikel berita, saat tersedia. Google mengatakan pembaruan ini akan mengurangi paparan terhadap hasil eksplisit hingga 70%. Perusahaan tersebut mengakui tantangan dalam memfilter foto telanjang yang sah, seperti adegan aktor dalam sebuah film, versus deepfake yang tidak sah dari aktor yang sama. Google mengatakan akan melakukan ini dengan melihat apakah suatu situs memiliki banyak permintaan penghapusan untuk gambar eksplisit palsu. Jika demikian, situs tersebut akan dianggap berkualitas rendah.
Jika Anda ingin menghapus deepfake eksplisit yang dihasilkan AI dari Penelusuran, ikuti langkah-langkah ini tautan.
Perlu diketahui bahwa Google menyatakan bahwa permintaan harus memenuhi tiga persyaratan agar disetujui untuk dihapus:
- Orang tersebut harus dapat diidentifikasi dalam gambar.
- Citra yang dimaksud harus palsu dan harus secara keliru menggambarkan orang dalam keadaan telanjang atau dalam situasi eksplisit seksual.
- Citra tersebut harus didistribusikan tanpa persetujuan orang tersebut.
Google mengatakan akan meninjau semua permintaan, berpotensi meminta informasi lebih lanjut jika diperlukan, dan akan menanggapi setiap permintaan dengan memberi tahu orang tersebut mengenai tindakan yang diambil atau menjelaskan mengapa permintaan tersebut tidak memenuhi persyaratan perusahaan.
