BUFFALO, NY — Kantor Jaksa Agung negara bagian New York meminta perusahaan media sosial terbesar di negara itu untuk mengungkapkan tindakan yang mereka ambil untuk melindungi pemilih dari misinformasi pada siklus pemilihan presiden ini.
Chris MacKenzie adalah direktur senior komunikasi untuk Chamber of Progress, kelompok perdagangan teknologi yang mewakili banyak platform.
“Perusahaan menyadari ancaman misinformasi dalam pemilu ini. Misinformasi daring dan moderasi konten telah menjadi fokus utama mereka sejak 2016,” kata MacKenzie.
Namun, dalam sebuah surat minggu ini, pertama kali dilaporkan oleh ABC News dan diperoleh secara independen oleh Berita Spektrum 1AG menunjukkan, dengan munculnya AI generatif, “rintangan yang mencegah pelaku kejahatan menciptakan konten yang menipu atau menyesatkan telah melemah secara dramatis.”
“Menentukan informasi mana yang misinformasi dan mana yang hanya informasi yang berpihak pada politik, informasi mana yang mungkin ekstrem kanan atau ekstrem kiri versus informasi yang mungkin menyesatkan pemilih, akan menjadi tantangan bagi perusahaan untuk membuat keputusan itu,” kata MacKenzie.
Surat itu meminta perusahaan untuk membahas 11 masalah spesifik secara tertulis dan mengadakan pertemuan lanjutan dengan kantor AG.
Topiknya meliputi:
- bagaimana mereka akan mengatasi penyebaran materi buatan AI yang menyesatkan di platform mereka dan penggunaan alat AI platform untuk membuat materi tersebut
- label untuk mengidentifikasi konten AI yang terlihat jelas dan konten autentik
- sistem deteksi dan pemantauan
- mekanisme pelaporan dan kebijakan penegakan hukum
- penjangkauan dan pendidikan antara lain
“Perusahaan menggunakan AI dalam algoritma moderasi konten mereka untuk mencari konten daring yang berisi misinformasi dan dapat menyesatkan pemilih,” kata MacKenzie.
Ia mengatakan ada beberapa hal yang perlu dipertimbangkan perusahaan dalam mengembangkan kebijakan mereka, termasuk fakta bahwa tidak semua materi AI bersifat menipu. Seperti halnya kebijakan moderasi konten pada pemilihan sebelumnya, ia mengatakan platform media sosial harus berjalan di atas tali politik.
“Pada akhirnya, perusahaan-perusahaan harus mampu membuat keputusan moderasi konten mereka sendiri sehingga mereka tetap berada dalam batasan Amandemen Pertama dan mereka tidak membiarkan politisi menggunakan kekuatan regulasi mereka untuk membujuk mereka ke satu arah atau lainnya,” kata MacKenzie.
Kantor Kejaksaan Agung New York mengatakan pihaknya sangat tertarik pada risiko dan manfaat teknologi AI generatif baru dan awal bulan ini merilis sebuah laporan dan menyelenggarakan simposium tentang subjek tersebut.
