Kelompok hak suara khawatir model AI menghasilkan tanggapan yang tidak akurat dan menyesatkan dalam bahasa Spanyol

SAN FRANCISCO — Hanya beberapa hari sebelum pemilihan presiden, para pemilih di Amerika Latin menghadapi rentetan iklan bertarget dalam bahasa Spanyol dan sumber pesan politik baru di era kecerdasan buatan: chatbots yang menghasilkan klaim tidak berdasar dalam bahasa Spanyol tentang hak memilih.

Model AI lebih sering menghasilkan aliran kebohongan terkait pemilu dalam bahasa Spanyol dibandingkan bahasa Inggris, sehingga memperkeruh kualitas informasi terkait pemilu bagi masyarakat. salah satu negara dengan pertumbuhan tercepat dan blok pemungutan suara yang semakin berpengaruh, menurut analisis oleh dua redaksi nirlaba.

Kelompok hak suara khawatir model AI dapat memperdalam kesenjangan informasi bagi pemilih berbahasa Spanyol, yang sangat dibanggakan oleh Partai Demokrat dan Republik selama pemungutan suara.

Wakil Presiden Kamala Harris akan mengadakan rapat umum pada hari Kamis di Las Vegas yang menampilkan penyanyi Jennifer Lopez dan band Meksiko Maná. Sementara itu, mantan Presiden Donald Trump mengadakan acara pada hari Selasa di wilayah Hispanik di Pennsylvania, hanya dua hari setelah dampak dari komentar menghina yang dibuat oleh pembicara tentang Puerto Riko di rapat umum di New York.

Kedua organisasi tersebut, Proof News dan Factchequeado, berkolaborasi dengan Lab Sains, Teknologi, dan Nilai Sosial di Institute for Advanced Study untuk menguji seberapa populer model AI merespons petunjuk tertentu menjelang Hari Pemilihan pada tanggal 5 November, dan menilai jawabannya.

Lebih dari separuh tanggapan terkait pemilu yang dihasilkan dalam bahasa Spanyol mengandung informasi yang salah, dibandingkan dengan 43% tanggapan dalam bahasa Inggris, menurut temuan mereka.

Model Meta, Llama 3, yang telah mendukung asisten AI di dalam WhatsApp dan Facebook Messenger, termasuk di antara model yang mendapatkan hasil terburuk dalam pengujian tersebut, dengan hampir dua pertiga dari seluruh tanggapan salah dalam bahasa Spanyol, dibandingkan dengan sekitar setengahnya dalam bahasa Inggris.

Misalnya, AI Meta gagal menjawab pertanyaan tentang apa artinya jika seseorang adalah a pemilih “khusus federal”.. Di Arizona, pemilih seperti ini tidak memberikan bukti kewarganegaraan kepada negara bagian – umumnya karena mereka mendaftar dengan formulir yang tidak memerlukannya – dan hanya berhak memilih dalam pemilihan presiden dan kongres. Namun, model AI Meta memberikan tanggapan yang salah dengan mengatakan bahwa pemilih “khusus federal” adalah orang-orang yang tinggal di wilayah AS seperti Puerto Riko atau Guam, yang tidak dapat memilih dalam pemilihan presiden.

Menanggapi pertanyaan yang sama, model Claude Anthropic mengarahkan pengguna untuk menghubungi otoritas pemilu di “negara atau wilayah Anda”, seperti Meksiko dan Venezuela.

Model AI Google, Gemini, juga melakukan kesalahan. Ketika diminta untuk mendefinisikan Electoral College, Gemini menjawab dengan jawaban yang tidak masuk akal tentang masalah “memanipulasi suara.”

Juru bicara Meta Tracy Clayton mengatakan Llama 3 dimaksudkan untuk digunakan oleh pengembang untuk membuat produk lain, dan menambahkan bahwa Meta sedang melatih modelnya mengenai pedoman keselamatan dan tanggung jawab untuk mengurangi kemungkinan mereka memberikan tanggapan yang tidak akurat mengenai pemungutan suara.

Kepala kebijakan dan penegakan Anthropic, Alex Sanderford, mengatakan perusahaannya telah melakukan perubahan untuk menjawab pertanyaan berbahasa Spanyol dengan lebih baik sehingga akan mengarahkan pengguna ke sumber resmi mengenai masalah terkait pemungutan suara. Google tidak menanggapi permintaan komentar.

Para pendukung hak pilih telah memperingatkan selama berbulan-bulan bahwa pemilih berbahasa Spanyol menghadapi serangan misinformasi dari sumber online dan model AI. Analisis baru ini memberikan bukti lebih lanjut bahwa pemilih harus berhati-hati dalam mendapatkan informasi pemilu, kata Lydia Guzman, yang memimpin kampanye advokasi pemilih di Chicanos Por La Causa.

“Penting bagi setiap pemilih untuk melakukan penelitian yang tepat dan tidak hanya pada satu entitas, pada beberapa entitas, untuk melihat bersama informasi yang benar dan meminta informasi yang benar dari organisasi yang kredibel,” kata Guzman.

Dilatih berdasarkan sejumlah besar materi yang diambil dari internet, model bahasa berukuran besar memberikan jawaban yang dihasilkan oleh AI, namun masih cenderung menghasilkan respons yang tidak logis. Meskipun pemilih berbahasa Spanyol tidak menggunakan chatbot, mereka mungkin menemukan model AI saat menggunakan alat, aplikasi, atau situs web yang mengandalkan chatbot tersebut.

Ketidakakuratan tersebut dapat berdampak lebih besar di negara-negara dengan populasi Hispanik yang besar, seperti Arizona, Nevada, Florida, dan California.

Hampir sepertiga dari seluruh pemilih yang memenuhi syarat di California, misalnya, adalah orang Latin, dan satu dari lima pemilih orang Latin yang memenuhi syarat hanya berbicara bahasa Spanyol, menurut temuan Institut Kebijakan dan Politik Latino UCLA.

Rommell Lopez, seorang paralegal California, memandang dirinya sebagai pemikir independen yang memiliki banyak akun media sosial dan menggunakan chatbot OpenAI, ChatGPT. Ketika mencoba memverifikasi klaim tidak berdasar bahwa imigran memakan hewan peliharaan, dia mengatakan dia menemukan sejumlah tanggapan berbeda yang membingungkan di dunia maya, beberapa di antaranya berasal dari AI. Pada akhirnya, dia mengatakan dia mengandalkan akal sehatnya.

“Kami bisa mempercayai teknologi, tapi tidak 100 persen,” kata Lopez, 46, dari Los Angeles. “Pada akhirnya, mereka adalah mesin.”

___

Salomon melaporkan dari Miami. Penulis Associated Press Jonathan J. Cooper di Phoenix berkontribusi pada laporan ini.

___

Kisah ini adalah bagian dari seri Associated Press, “Kampanye AI,” yang mengeksplorasi pengaruh kecerdasan buatan dalam siklus pemilu 2024.

___

Associated Press menerima bantuan keuangan dari Jaringan Omidyar untuk mendukung liputan kecerdasan buatan dan dampaknya terhadap masyarakat. AP bertanggung jawab penuh atas semua konten. Temukan AP standar untuk bekerja dengan filantropi, daftar pendukung dan area cakupan yang didanai di AP.org.

Sumber

LEAVE A REPLY

Please enter your comment!
Please enter your name here