Elon Musk baru-baru ini menjadi berita utama ketika dia memposting video palsu dari Wakil Presiden Kamala Harrisdengan audio yang dimanipulasi agar terdengar seperti dia menyebut dirinya sebagai “perekrutan terbaik” yang tidak tahu “hal pertama tentang menjalankan negara.” Sebulan sebelumnya, seorang kandidat kongres Republik di Michigan memposting TikTok menggunakan suara Dr. Martin Luther King Jr. yang dihasilkan AI untuk mengatakan bahwa dia akan kembali dari kematian untuk mendukung Anthony Hudson. Pada bulan Januari, suara Presiden Joe Biden direplikasi menggunakan kecerdasan buatan untuk mengirim panggilan robot palsu kepada ribuan orang di New Hampshire, mendesak mereka untuk tidak memberikan suara dalam pemilihan pendahuluan negara bagian tersebut keesokan harinya.
Para ahli dan pembuat undang-undang AI telah membunyikan peringatan, menuntut lebih banyak regulasi karena kecerdasan buatan digunakan untuk meningkatkan disinformasi dan misinformasi. Sekarang, tiga bulan menjelang pemilihan presiden dan Amerika Serikat tidak siap menghadapi potensi serangan konten palsu yang akan datang.
Gambar yang diubah secara digital — juga dikenal sebagai pemalsuan mendalam — telah ada selama beberapa dekade, tetapi, berkat AI generatif, teknologi ini kini jauh lebih mudah dibuat dan lebih sulit dideteksi. Karena ambang batas pembuatan deepfake telah menurun, teknologi ini kini diproduksi dalam skala besar dan semakin sulit diatur. Untuk membuat masalah ini semakin menantang, lembaga pemerintah saling berebut tentang kapan dan bagaimana mengatur teknologi ini — jika memang harus diatur — dan para ahli AI khawatir bahwa kegagalan untuk bertindak dapat berdampak buruk pada demokrasi kita. Beberapa pejabat mengusulkan peraturan dasar yang akan mengungkapkan kapan AI digunakan dalam iklan politik, tetapi pejabat politik yang ditunjuk Partai Republik menghalangi.
“Setiap kali Anda berhadapan dengan misinformasi atau disinformasi yang mengganggu pemilu, kita perlu membayangkan bahwa itu adalah semacam penekanan pemilih,” kata Dr. Alondra Nelson. Nelson adalah wakil direktur dan pelaksana direktur Kantor Kebijakan Sains dan Teknologi Gedung Putih Joe Biden dan memimpin pembuatan RUU Hak AI. Dia mengatakan bahwa misinformasi AI “mencegah orang-orang memiliki lingkungan informasi yang andal di mana mereka dapat membuat keputusan tentang isu-isu yang cukup penting dalam hidup mereka.” Alih-alih menghentikan orang-orang untuk pergi ke tempat pemungutan suara untuk memilih, katanya, jenis penekanan pemilih baru ini “erosi kepercayaan masyarakat terhadap kebenaran yang lambat dan berbahaya” yang mempengaruhi kepercayaan mereka terhadap legitimasi lembaga dan pemerintah.
Nelson mengatakan bahwa fakta bahwa unggahan video deepfake Musk masih ada di internet membuktikan bahwa kita tidak dapat mengandalkan perusahaan untuk mematuhi aturan mereka sendiri tentang misinformasi. “Harus ada pembatas yang jelas, garis tegas yang jelas tentang apa yang dapat diterima dan tidak dapat diterima dari pihak aktor dan perusahaan, serta konsekuensi atas perilaku tersebut.”
Banyak sekali Negara bagian telah mengeluarkan peraturan tentang deepfake yang dihasilkan AI dalam pemilihan umum, tetapi peraturan federal lebih sulit ditemukan. Bulan ini, Komisi Komunikasi Federal menerima komentar publik tentang aturan yang diusulkan lembaga tersebut untuk mengharuskan pengiklan mengungkapkan kapan teknologi AI digunakan dalam iklan politik di radio dan televisi. (FCC tidak memiliki yurisdiksi atas konten daring.)
Sejak tahun 1930-an, FCC telah mewajibkan stasiun TV dan radio untuk menyimpan catatan informasi tentang siapa yang membeli iklan kampanye dan berapa banyak yang mereka bayarkan. Sekarang, badan tersebut mengusulkan untuk menambahkan pertanyaan yang menanyakan apakah AI digunakan dalam produksi iklan tersebut. Usulan tersebut tidak akan melarang penggunaan AI dalam iklan; usulan tersebut hanya akan menanyakan apakah AI digunakan.
“Kami memiliki alat nasional yang sudah ada selama beberapa dekade,” kata Ketua FCC Jessica Rosenworcel Batu Bergulir dalam wawancara telepon. “Kami memutuskan bahwa sekarang adalah waktu yang tepat untuk mencoba memodernisasikannya dengan cara yang sangat sederhana, karena menurut saya banyak pemilih hanya ingin tahu: apakah Anda menggunakan teknologi ini? Ya atau tidak?”
Rosenworcel mengatakan masih banyak pekerjaan yang harus dilakukan terkait AI dan misinformasi. Ia menunjuk pada panggilan telepon otomatis Biden palsu, yang ditanggapi FCC dengan memanggil Undang-Undang Perlindungan Konsumen Telepon tahun 1991, yang membatasi penggunaan suara buatan dalam panggilan telepon. FCC kemudian bekerja sama dengan jaksa agung New Hampshire, yang mengajukan tuntutan pidana terhadap orang yang menciptakan panggilan otomatis tersebut.
“Anda harus memulai dari suatu tempat dan saya tidak berpikir kita harus membiarkan kesempurnaan menjadi musuh kebaikan,” kata Rosenworcel. “Saya pikir membangun fondasi yang telah ada selama beberapa dekade adalah tempat yang baik untuk memulai.”
Ketua Komisi Pemilihan Umum Federal (Federal Election Commission/FEC) dari Partai Republik, Sean Cooksey, menentang usulan terbaru FCC, dengan menyatakan usulan tersebut akan “menimbulkan kekacauan” karena sudah sangat dekat dengan pemilu.
“Setiap warga Amerika harus merasa terganggu karena FCC yang dikendalikan Demokrat terus mendorong rencana radikalnya untuk mengubah aturan iklan politik hanya beberapa minggu sebelum pemilihan umum,” kata Cooksey dalam pernyataan tertulisnya kepada Batu Bergulir“Aturan yang tidak jelas ini tidak hanya akan mengganggu yurisdiksi Komisi Pemilihan Umum Federal, tetapi juga akan menimbulkan kekacauan di antara kampanye politik dan membingungkan para pemilih sebelum mereka pergi ke tempat pemungutan suara. FCC harus membatalkan usulan yang salah arah ini.”
FEC selama bertahun-tahun secara rutin menemui jalan buntu dalam berbagai masalah karena Partai Republik di komisi tersebut telah berupaya mencegah regulasi baru pada hampir semua hal selama bertahun-tahun.
Kelompok pengawas Public Citizen mengajukan petisi kepada FEC untuk terlibat dalam pembuatan peraturan tentang kecerdasan buatan, dan di masa lalu Cooksey dikatakan Badan tersebut akan memberikan pembaruan pada awal musim panas.
Cooksey mengatakan Aksioma bahwa FEC tidak akan bergerak untuk mengatur AI dalam iklan politik tahun ini, dan komisi tersebut akan memberikan suara untuk menutup petisi Public Citizen pada tanggal 15 Agustus. “Pendekatan yang lebih baik bagi FEC adalah menunggu arahan dari Kongres dan mempelajari bagaimana AI benar-benar digunakan di lapangan sebelum mempertimbangkan aturan baru,” kata Cooksey kepada media tersebut, seraya menambahkan bahwa agensi tersebut “akan terus menegakkan peraturan yang ada terhadap penipuan yang menyesatkan otoritas kampanye terlepas dari medianya.”
Para ahli AI percaya bahwa tindakan harus segera diambil. “Kita tidak akan mampu menyelesaikan semua masalah ini,” kata Nelson, seraya menambahkan bahwa tidak ada solusi jitu untuk memperbaiki semua deepfake yang didukung AI. “Saya pikir kita sering kali menghadapi masalah AI dengan perspektif seperti itu, bukannya berkata, sayangnya kejahatan akan selalu ada dan kita tidak dapat menghentikannya, tetapi yang dapat kita lakukan adalah menambah ketegangan. Kita dapat memastikan bahwa orang-orang mendapatkan konsekuensi atas perilaku buruk mereka yang kita harap dapat meringankan.”
Perwakilan Yvette Clarke (DN.Y.) telah menyerukan undang-undang kongres tentang kecerdasan buatan selama bertahun-tahun. Sebuah RUU bipartisan yang menargetkan pornografi AI deepfake nonkonsensual baru-baru ini disahkan oleh Senat.
“Tidak dapat dielakkan bahwa teknologi-teknologi baru ini, khususnya AI, yang memungkinkan Anda mendistorsi citra dan suara, akan dijadikan senjata pada tahap tertentu untuk menimbulkan kebingungan, misinformasi, dan disinformasi kepada rakyat Amerika,” kata Clarke.
“(Tidak ada) cara untuk benar-benar membedakan gambaran yang direkayasa dengan sesuatu yang faktual dan nyata, (yang) merugikan rakyat Amerika, khususnya dalam kampanye tanpa batas ini.”
Clarke memperkenalkan REAL Political Ads Act pada bulan Mei 2023, untuk mewajibkan iklan kampanye untuk mengungkapkan dan memberi tanda air digital pada video atau gambar dalam iklan yang dibuat oleh AI generatif. “Kami telah mendapatkan cukup banyak pendukung undang-undang tersebut, tetapi belum ada usulan dari mayoritas (Republik) di Komite Energi dan Perdagangan,” kata Clarke.
“Ini adalah ladang terbuka bagi mereka yang ingin menciptakan misinformasi dan disinformasi saat ini, karena tidak ada yang mengaturnya,” kata Clarke. Ia menunjukkan bahwa ia juga tengah mengerjakan hal ini dengan Congressional Black Caucus, mengingat fakta bahwa komunitas dan minoritas yang terpinggirkan sering kali menjadi sasaran misinformasi secara tidak proporsional. “Kami tertinggal di Amerika Serikat, dan saya melakukan segala yang saya bisa untuk mendorong kami ke masa depan secepat mungkin.”
Dr. Rumman Chowdhury pernah mengelola AI etis untuk X (dulu Twitter) sebelum Musk mengambil alih dan sekarang menjadi Utusan Sains AS untuk Kecerdasan Buatan. Ia mengatakan masalah yang lebih luas adalah bahwa Amerika berada pada titik terendah yang berbahaya dalam hal kepercayaan terhadap pemerintah, pemilihan umum, dan lembaga komunikasi. Ia mengatakan FEC dapat semakin mengikis kredibilitasnya sendiri dengan tidak mengambil tindakan.
“Di sini kita berada dalam kondisi krisis mengenai lembaga dan pemerintah yang seharusnya kita percayai, dan mereka akan berdiam diri dan berkata, 'Kita tidak tahu apakah kita harus melakukan sesuatu?'” kata Chowdhury. “Jika mereka tidak terlihat melakukan sesuatu terhadap deepfake, ini justru dapat semakin mencoreng citra mereka di mata rakyat Amerika.”
Mengenai tindakan Musk yang membagikan deepfake Harris secara spesifik, Chowdhury mengatakan dia tidak tahu mengapa orang-orang begitu terkejut bahwa Musk melakukannya. Musk telah mengubah X (sebelumnya Twitter) menjadi mesin misinformasi sejak ia mengambil alih platform tersebut.
“Apakah ini mengerikan? Tentu saja,” kata Chowdhury. “Namun, ini seperti kita adalah orang-orang di pesta macan tutul pemakan muka. Anda akan marah karena pria ini melakukan persis seperti yang dikatakannya? Jika Anda marah, maka jangan gunakan Twitter. Atau ketahuilah bahwa jika Anda menggunakan platform tersebut, Anda terlibat dalam membiarkan pria ini memanipulasi jalannya demokrasi.”
