NEW YORK (AP) — Sebuah video yang dimanipulasi yang meniru suara Wakil Presiden Kamala Harris mengatakan hal-hal yang tidak dia katakan menimbulkan kekhawatiran tentang kekuatan kecerdasan buatan untuk menyesatkan dengan Hari Pemilihan sekitar tiga bulan lagi.
Video tersebut mendapat perhatian setelah miliarder teknologi Elon Musk membagikannya di platform media sosialnya X pada Jumat malam tanpa secara eksplisit mencatat bahwa itu awalnya dirilis sebagai parodi.
Video ini menggunakan banyak visual yang sama seperti iklan asli Harris, calon presiden dari Partai Demokrat, dirilis minggu lalu saat meluncurkan kampanyenya. Namun, video tersebut mengganti audio sulih suara dengan suara lain yang secara meyakinkan meniru Harris.
“Saya, Kamala Harris, adalah kandidat Demokrat Anda untuk presiden karena Joe Biden akhirnya memperlihatkan kepikunannya dalam debat,” kata suara dalam video tersebut. Suara tersebut mengklaim Harris adalah “karyawan yang berasal dari berbagai kalangan” karena dia adalah seorang perempuan dan orang kulit berwarna, dan suara tersebut mengatakan dia tidak tahu “hal pertama tentang menjalankan negara.” Video tersebut mempertahankan merek “Harris for President”. Video tersebut juga menambahkan beberapa klip masa lalu Harris yang autentik.
Mia Ehrenberg, juru bicara tim kampanye Harris, mengatakan dalam email kepada The Associated Press: “Kami percaya rakyat Amerika menginginkan kebebasan, kesempatan, dan keamanan nyata yang ditawarkan Wakil Presiden Harris; bukan kebohongan palsu yang dimanipulasi oleh Elon Musk dan Donald Trump.”
Video yang dibagikan secara luas ini adalah contoh bagaimana kehidupan nyata Gambar, video, atau klip audio yang dihasilkan AI telah digunakan untuk mengolok-olok dan menyesatkan tentang politik saat Amerika Serikat semakin dekat dengan pemilihan presiden. Ini mengungkap bagaimana, karena alat AI berkualitas tinggi telah menjadi jauh lebih mudah diaksessejauh ini masih kurangnya tindakan federal yang signifikan untuk mengatur penggunaannya, sehingga aturan yang mengatur AI dalam politik sebagian besar diserahkan kepada negara bagian dan platform media sosial.
Video tersebut juga mengangkat pertanyaan tentang cara terbaik menangani konten yang mengaburkan batasan tentang apa yang dianggap sebagai penggunaan AI yang tepat, terutama jika konten tersebut termasuk dalam kategori satir.
Pengguna asli yang mengunggah video tersebut, seorang YouTuber yang dikenal sebagai Mr Reagan, telah mengungkapkan di YouTube dan di X bahwa video yang dimanipulasi tersebut adalah sebuah parodi. Namun, unggahan Musk, yang telah ditonton lebih dari 123 juta kali, menurut platform tersebut, hanya menyertakan teks “Ini luar biasa” dengan emoji tertawa.
Pengguna X yang familier dengan platform tersebut mungkin tahu untuk mengeklik postingan Musk hingga ke postingan pengguna asli, tempat pengungkapan tersebut terlihat. Keterangan Musk tidak mengarahkan mereka untuk melakukannya.
Hal yang perlu diketahui tentang Pemilu 2024
- Demokrasi: Demokrasi Amerika telah mengatasi ujian stres besar sejak 2020. Tantangan yang lebih besar akan dihadapi pada tahun 2024.
- Peran AP: Associated Press adalah sumber informasi yang paling tepercaya pada malam pemilu, dengan sejarah akurasi yang dimulai sejak tahun 1848. Belajarlah lagi.
- Tetap terinformasi. Ikuti terus perkembangan berita dengan peringatan berita terkini melalui email. Daftar disini.
Sementara beberapa peserta dalam fitur “catatan komunitas” X untuk menambahkan konteks ke postingan telah menyarankan untuk memberi label pada postingan Musk, tidak ada label seperti itu yang ditambahkan hingga Minggu sore. Beberapa pengguna daring mempertanyakan apakah postingannya mungkin melanggar Kebijakan Xyang menyatakan bahwa pengguna “tidak boleh membagikan media sintetis, yang dimanipulasi, atau di luar konteks yang dapat menipu atau membingungkan orang dan menyebabkan bahaya.”
Kebijakan tersebut memiliki pengecualian untuk meme dan satir selama tidak menyebabkan “kebingungan yang signifikan tentang keaslian media.”
Musk mendukung mantan Presiden Donald Trump, calon dari Partai Republik, awal bulan ini. Baik Reagan maupun Musk tidak segera menanggapi permintaan komentar melalui email pada hari Minggu.
Dua ahli yang mengkhususkan diri dalam media yang dihasilkan AI meninjau audio iklan palsu tersebut dan mengonfirmasi bahwa sebagian besarnya dihasilkan menggunakan teknologi AI.
Salah satunya, pakar forensik digital Universitas California, Berkeley, Hany Farid, mengatakan video tersebut menunjukkan kekuatan AI generatif dan deepfake.
“Suara yang dihasilkan AI sangat bagus,” katanya dalam email. “Meskipun kebanyakan orang tidak akan percaya bahwa itu adalah suara Wapres Harris, video tersebut jauh lebih hebat jika kata-kata tersebut diucapkan dalam suaranya.”
Ia mengatakan perusahaan AI generatif yang membuat alat kloning suara dan alat AI lainnya tersedia untuk publik seharusnya berusaha lebih baik untuk memastikan layanan mereka tidak digunakan dengan cara yang dapat merugikan orang atau demokrasi.
Rob Weissman, salah satu presiden kelompok advokasi Public Citizen, tidak setuju dengan Farid, dan mengatakan ia mengira banyak orang akan tertipu oleh video tersebut.
“Saya tidak menganggap itu lelucon,” kata Weissman dalam sebuah wawancara. “Saya yakin sebagian besar orang yang melihatnya tidak menganggapnya lelucon. Kualitasnya tidak bagus, tetapi cukup bagus. Dan justru karena hal itu mendukung tema-tema yang sudah ada sebelumnya yang telah beredar di sekitarnya, sebagian besar orang akan percaya bahwa itu nyata.”
Weissman, yang organisasinya telah mengadvokasi Kongres, badan-badan federal dan negara-negara bagian untuk mengatur AI generatif, mengatakan bahwa video tersebut adalah “jenis hal yang telah kami peringatkan.”
Deepfake AI generatif lainnya di AS dan tempat lain akan mencoba memengaruhi pemilih dengan misinformasi, humor, atau keduanya. Di Slovakia pada tahun 2023, klip audio palsu menyamar sebagai kandidat yang mendiskusikan rencana untuk mencurangi pemilu dan menaikkan harga bir beberapa hari sebelum pemungutan suara. Di Louisiana pada tahun 2022, sebuah komite aksi politik iklan satir melapiskan wajah kandidat walikota Louisiana ke wajah seorang aktor yang memerankannya sebagai siswa SMA yang berprestasi.
Kongres belum meloloskan undang-undang tentang AI dalam politik, dan lembaga federal hanya mengambil langkah terbatas, menyerahkan sebagian besar peraturan AS yang ada kepada negara bagian. Lebih dari sepertiga negara bagian telah menciptakan hukum mereka sendiri mengatur penggunaan AI dalam kampanye dan pemilihan umum, menurut Konferensi Nasional Badan Legislatif Negara Bagian.
Selain X, perusahaan media sosial lain juga telah membuat kebijakan terkait media sintetis dan hasil manipulasi yang dibagikan di platform mereka. Pengguna di platform video YouTube, misalnya, harus mengungkapkan apakah mereka telah menggunakan kecerdasan buatan generatif untuk membuat video. atau suspensi wajah.
Bahasa Indonesia: ___
Associated Press menerima dukungan dari beberapa yayasan swasta untuk meningkatkan liputan penjelasannya tentang pemilu dan demokrasi. Lihat selengkapnya tentang inisiatif demokrasi AP Di SiniAP bertanggung jawab penuh atas semua konten.
