“Hanya masalah menekan sebuah tombol.”
Penanda Air
Pembuat ChatGPT OpenAI telah mengembangkan alat internal untuk memberi tanda air dan melacak konten yang dihasilkan AI dengan akurasi 99,9 persen, itu Jurnal Wall Street laporan — tetapi menolak untuk merilisnya.
Alat yang efektif untuk menandai teks yang dihasilkan AI dapat berguna dalam sejumlah situasi, mulai dari menindak siswa yang berbuat curang hingga memilah-milah teks sampah hasil ciptaan AI yang memenuhi web.
Itulah sebabnya mengapa sangat mengejutkan bahwa OpenAI, sebagai Jurnal Dunia laporan, telah diam-diam berpegang pada alat yang dapat melakukan hal itu.
“Hanya dengan menekan sebuah tombol,” kata seorang sumber yang mengetahui proyek tersebut kepada Jurnal Dunia.
Detektor Bot
Sesuai dengan Jurnal DuniaOpenAI mulai membahas perlunya alat penandaan air yang fungsional, atau perangkat lunak yang menyematkan artefak yang menunjukkan suatu konten sebagai hasil buatan AI, setelah ChatGPT dirilis pada tahun 2022. Perangkat lunak yang dimaksud dibuat segera setelah itu, dan menurut dokumen internal diketahui berfungsi dengan akurasi 99,9 persen saat diterapkan pada teks yang “cukup” dibuat oleh ChatGPT.
Tetapi OpenAI masih bimbang mengenai apakah mereka harus merilis alat tersebut.
Menurut Jurnal Duniapada bulan April 2023, survei global yang dilakukan OpenAI menemukan dukungan yang luar biasa di antara masyarakat umum untuk menerapkan alat watermarking. Namun, survei lain yang dilakukan pada bulan yang sama di antara pengguna OpenAI menemukan bahwa 30 persen basis pelanggannya mengatakan mereka akan berhenti menggunakan ChatGPT jika mulai menerapkan watermark dan perusahaan pesaing tidak melakukannya. Jurnal Dunia dikatakan, survei terakhir ini telah “menjadi penting” dalam diskusi lebih lanjut mengenai tanda air.
Seorang juru bicara OpenAI mengatakan kepada Jurnal Dunia bahwa keraguan perusahaan itu disebabkan oleh terlalu berhati-hatinya.
“Metode watermarking teks yang kami kembangkan secara teknis menjanjikan, tetapi memiliki risiko penting yang kami pertimbangkan saat meneliti alternatifnya,” kata juru bicara tersebut. “Kami yakin pendekatan yang kami ambil secara sengaja diperlukan mengingat kompleksitas yang terlibat dan kemungkinan dampaknya pada ekosistem yang lebih luas di luar OpenAI.” (Setelah Jurnal WSJ laporan telah diterbitkan, Berita TechCrunch memperhatikan itu OpenAI memperbarui posting blog yang diterbitkan sebelumnya tentang upaya pemberian tanda air.)
Namun, meskipun kami sangat mendukung mitigasi risiko AI, ini adalah langkah yang sangat paradoks bagi OpenAI. ChatGPT, yang sekarang hanyalah salah satu dari sekian banyak alat AI OpenAI, telah berada di tangan publik selama bertahun-tahun. Sulit untuk melihat apa yang bisa begitu berisiko tentang memperkenalkan perangkat lunak penandaan airnya — di luar kebutuhan OpenAI untuk mengembangkan dan mempertahankan basis penggunanya.
Lebih lanjut tentang OpenAI: Mode Suara GPT-4o OpenAI Mengatakan Perlu Bernapas
