Negara-negara bagian dengan cepat mengadopsi undang-undang untuk mengatasi deepfake politik sebagai pengganti regulasi federal yang komprehensif terhadap media yang dimanipulasi terkait pemilu, menurut laporan baru dari Brennan Center for Justice.
Sembilan belas negara bagian meloloskan undang-undang yang mengatur deepfake dalam pemilu, dan 26 negara bagian lainnya mempertimbangkan rancangan undang-undang terkait. Namun, tinjauan NBC News terhadap undang-undang tersebut dan analisis baru dari Brennan Center, lembaga hukum dan kebijakan nonpartisan yang berafiliasi dengan Sekolah Hukum Universitas New York, menemukan bahwa undang-undang deepfake di sebagian besar negara bagian sangat luas sehingga akan menghadapi gugatan pengadilan yang berat, sementara beberapa negara bagian sangat sempit sehingga memberikan banyak pilihan bagi pelaku kejahatan untuk menggunakan teknologi tersebut guna menipu pemilih.
“Sebenarnya sangat luar biasa banyaknya undang-undang seperti ini yang telah disahkan,” kata Larry Norden, wakil presiden Program Pemilu dan Pemerintahan di Brennan Center dan penulis analisis yang dirilis Selasa.
Studi tersebut menemukan bahwa negara bagian memperkenalkan 151 rancangan undang-undang berbeda tahun ini yang membahas deepfake dan media menipu lainnya yang dimaksudkan untuk menipu pemilih, sekitar seperempat dari semua undang-undang AI negara bagian yang diperkenalkan.
“Itu bukan sesuatu yang biasa Anda lihat, dan saya pikir itu mencerminkan seberapa cepat teknologi ini berkembang dan seberapa khawatirnya para legislator bahwa hal itu dapat memengaruhi kampanye politik,” katanya.
Teknologi deepfake, yang menggunakan kecerdasan buatan untuk meniru seseorang dengan audio atau video, telah ada selama bertahun-tahun. Namun, pemilu tahun ini adalah yang pertama di mana teknologi tersebut tersedia secara luas sehingga hampir semua orang yang memiliki komputer dapat membuat deepfake yang meyakinkan dengan biaya murah atau gratis dan mengunggahnya di media sosial.
Pemimpin Mayoritas Senat Chuck Schumer, DN.Y., ditunjukkan dalam sebuah wawancara Kamis bahwa ia ingin meloloskan undang-undang federal yang mengatur deepfake politik tetapi untuk meloloskan rancangan undang-undang tersebut sebelum pemilihan, rancangan undang-undang tersebut kemungkinan besar harus dilampirkan ke rancangan undang-undang pendanaan yang harus disahkan menjelang akhir September, hanya sebulan sebelum Hari Pemilihan.
Banyak undang-undang negara bagian yang telah disahkan tidak mengenakan hukuman pidana pada deepfake, tetapi malah memberi kandidat jalan untuk menuntut lawan politik yang menggunakannya dalam iklan politik tanpa mengungkapkan bahwa teknologi itu digunakan. Banyak dari undang-undang tersebut hanya berlaku 90 atau 60 hari sebelum pemilihan.
Undang-undang tersebut tidak memperhitungkan deepfake bertema politik yang dapat, misalnya, membujuk pemilih untuk tetap di rumah pada Hari Pemilihan dengan menggunakan video palsu yang menggambarkan kekerasan di tempat pemungutan suara, karena video tersebut tidak akan menggambarkan kandidat yang memiliki kedudukan hukum untuk menuntut.
Beberapa undang-undang juga mengharuskan penggugat untuk membuktikan bahwa seseorang yang membuat deepfake bertindak dengan “niat jahat yang sebenarnya,” yang jauh lebih mudah dibuktikan tentang kampanye pesaing daripada tentang orang yang suka iseng di media sosial.
Beberapa undang-undang, seperti Undang-Undang Memastikan Kesamaan, Suara, dan Keamanan Gambar (ELVIS) Tennessee tahun 2024, mengambil arah yang berlawanan dan berupaya mengakhiri secara luas serangkaian deepfake yang berpotensi menyesatkan. Orang-orang yang dituntut berdasarkan undang-undang tersebut akan memiliki peluang besar untuk menang dengan mengutip Amandemen Pertama, kata Norden. RUU serupa sedang dipertimbangkan di Illinois dan South Carolina.
“RUU yang lebih luas akan mendapat pengawasan lebih ketat dari pengadilan,” katanya.
Setidaknya ada dua contoh utama deepfake yang digunakan untuk menyesatkan pemilih secara massal tentang kandidat politik tahun ini. Pada bulan Februari, konsultan politik Steve Kramer merancang sebuah rencana di mana robocall memutar rekaman Joe Biden yang dipalsukan yang memberi tahu Demokrat New Hampshire untuk tidak memberikan suara dalam pemilihan pendahuluan. Dan minggu ini, pemilik X Elon Musk, yang telah mendukung Donald Trump untuk Presiden, membagikan video deepfaked tentang calon presiden dari Partai Demokrat Kamala Harris yang salah mengemukakan posisi kebijakannya. Pembuat video tersebut awalnya menyebutnya sebagai parodi, tetapi versi yang dibagikan Musk menghapus label tersebut.
Tak satu pun dari kasus tersebut yang dihukum oleh undang-undang khusus deepfake. Jaksa Agung New Hampshire Kramer yang didakwa dengan 26 dakwaan pidana, semuanya terkait dengan undang-undang yang berlaku yang melarang pembatasan pemilih dan peniruan identitas kandidat. New Hampshire tidak memiliki undang-undang khusus AI pada saat itu, meskipun undang-undang tersebut telah disahkan.
Tampaknya undang-undang baru itu akan mencakup penipuan panggilan otomatis Kramer. Definisi nya Kejahatan deepfake termasuk menggunakan teknologi untuk secara sadar mendistribusikan deepfake guna merusak reputasi orang tertentu dalam konteks kampanye politik tanpa mengakui teknologi tersebut telah digunakan.
Komisi Komunikasi Federal, yang mengatur telekomunikasi AS, mendenda Kramer $6 jutamenuduhnya melanggar peraturan lembaga yang ada terhadap pemalsuan nomor telepon untuk menipu. FCC sejak itu telah mengadopsi aturan yang menyatakan dapat mendenda orang yang menggunakan deepfake untuk menipu orangtetapi hanya melalui jaringan telepon, karena tidak memiliki yurisdiksi atas media sosial.
Norden mengatakan, kecil kemungkinan video Musk akan melanggar undang-undang negara bagian yang berlaku, sebagian karena video itu bukan bagian dari kampanye resmi.
“Hampir selalu ada semacam pengecualian parodi, dan bahkan tanpa label, Musk kemungkinan akan berpendapat ini adalah parodi,” katanya.
