OpenAI tidak akan memberi tanda air pada teks ChatGPT karena penggunanya bisa ketahuan

OpenAI telah memiliki sistem untuk memberi tanda air pada teks yang dibuat ChatGPT dan alat untuk mendeteksi tanda air tersebut yang sudah siap sekitar satu tahun, laporan Jurnal Wall Street. Namun, perusahaan tersebut terbagi secara internal mengenai apakah akan merilisnya. Di satu sisi, tampaknya itu adalah hal yang bertanggung jawab untuk dilakukan; di sisi lain, itu dapat merugikan laba bersihnya.

Watermarking OpenAI digambarkan sebagai penyesuaian bagaimana model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, sehingga menciptakan pola yang dapat dideteksi. (Itu penyederhanaan, tetapi Anda dapat memeriksa Google penjelasan lebih mendalam untuk Tanda air teks Gemini untuk lebih).

Perusahaan tersebut rupanya menemukan bahwa hal ini “99,9% efektif” untuk membuat teks AI dapat dideteksi ketika jumlahnya cukup banyak — sebuah keuntungan potensial bagi guru yang mencoba mencegah siswa menyerahkan tugas menulis kepada AI — tanpa memengaruhi kualitas keluaran teks chatbot-nya. Dalam sebuah survei yang ditugaskan oleh perusahaan tersebut, “orang-orang di seluruh dunia mendukung gagasan alat deteksi AI dengan margin empat banding satu,” Jurnal menulis.

Tetapi tampaknya OpenAI khawatir bahwa penggunaan tanda air dapat mematikan pengguna ChatGPT yang disurvei, hampir 30 persen di antaranya tampaknya memberi tahu perusahaan itu bahwa mereka akan lebih jarang menggunakan perangkat lunak tersebut jika tanda air diterapkan.

Beberapa staf memiliki kekhawatiran lain, seperti tanda air dapat dengan mudah digagalkan menggunakan trik seperti memantulkan teks bolak-balik antara bahasa dengan Google Translate atau membuat ChatGPT menambahkan emoji dan kemudian menghapusnya sesudahnya, menurut Jurnal.

Meskipun demikian, karyawan dilaporkan masih merasa bahwa pendekatan tersebut efektif. Mengingat sentimen pengguna yang mengganggu, artikel tersebut mengatakan beberapa orang menyarankan untuk mencoba metode yang “berpotensi kurang kontroversial di antara pengguna tetapi belum terbukti.” Sesuatu lebih baik daripada tidak sama sekali, saya kira.