Gambar Getty
Berdasarkan Jurnal Wall Streetada konflik internal di OpenAI mengenai apakah akan merilis alat tanda air yang memungkinkan orang menguji teks untuk melihat apakah itu dibuat oleh ChatGPT atau tidak.
Untuk menggunakan alat tersebut, OpenAI akan melakukan penyesuaian pada ChatGPT yang akan membuatnya meninggalkan jejak pada teks yang dihasilkannya yang dapat dideteksi oleh alat khusus. Tanda air tersebut tidak akan dapat dideteksi oleh pembaca manusia tanpa alat tersebut, dan pengujian internal perusahaan telah menunjukkan bahwa hal itu tidak berdampak negatif pada kualitas keluaran. Detektor tersebut akan akurat 99,9 persen sepanjang waktu. Penting untuk dicatat bahwa tanda air tersebut akan menjadi pola dalam teks itu sendiri, yang berarti tanda air tersebut akan tetap ada jika pengguna menyalin dan menempel teks tersebut atau bahkan jika mereka melakukan pengeditan kecil pada teks tersebut.
Beberapa karyawan OpenAI telah berkampanye untuk peluncuran alat tersebut, tetapi yang lain yakin bahwa itu akan menjadi langkah yang salah, dengan mengutip beberapa masalah tertentu.
Yang pertama di antaranya adalah kenyataan bahwa bahkan dengan akurasi 99,9 persen, detektor tanda air masih akan salah beberapa kali, mengingat seberapa sering ChatGPT digunakan.
Di antara mereka yang paling berminat menggunakan alat ini adalah guru dan profesor, yang telah melihat peningkatan pesat dalam makalah sekolah dan tugas-tugas lain yang dibuat dengan ChatGPT. Namun, argumen OpenAI adalah ini: akurasi 99,9 persen kedengarannya sangat tinggi, tetapi bayangkan jika satu di antara 1.000 makalah kuliah diberi label palsu sebagai kecurangan. Itu dapat mengakibatkan beberapa konsekuensi yang tidak menguntungkan bagi siswa yang tidak bersalah.
Lebih lanjut, OpenAI mengatakan peluncuran alat tersebut dapat memberikan stigma kepada penutur bahasa Inggris non-asli yang menggunakan ChatGPT untuk menerjemahkan atau meningkatkan tulisan mereka, yang menurut perusahaan merupakan penggunaan alat yang sah.
Akhirnya, postingan blog oleh OpenAI menjelaskan bahwa pelaku kejahatan relatif mudah untuk melewati tanda air dalam bentuknya saat ini. Menjalankan output ChatGPT melalui generator teks LLM lain dapat melakukannya, seperti halnya meminta ChatGPT untuk memasukkan karakter khusus di seluruh output dan kemudian menghapus karakter tersebut secara manual.
Ada satu masalah yang tidak disebutkan OpenAI dalam postingan blognya, tetapi muncul dalam artikel Wall Street Journal: Sebuah survei terhadap pengguna ChatGPT menunjukkan bahwa sebanyak 30 persen mengatakan mereka akan berhenti menggunakan ChatGPT jika outputnya diberi tanda air.
OpenAI masih menggunakan fitur tanda air dan belum meluncurkannya. OpenAI juga sedang menyelidiki solusi alternatif yang masih dalam tahap pengembangan, seperti menyertakan metadata yang ditandatangani secara kriptografis dalam output.
Solusi tersebut akan serupa dengan cara OpenAI menangani masalah asal konten dengan generator gambar DALL-E 3. Perusahaan menyertakan metadata C2PA untuk membantu orang mengidentifikasi kapan dan bagaimana gambar dimodifikasi dengan DALL-E.
OpenAI sebelumnya merilis dan mendukung alat deteksi teks AI. Alat ini tidak hanya berfokus pada ChatGPT, tetapi juga mendeteksi apakah ada alat AI yang digunakan untuk membuat teks. Namun, alat ini dihentikan karena sangat tidak akurat dan rentan terhadap hasil positif palsu, sehingga sebagian besarnya tidak berguna.
