OpenAI telah membangun sebuah alat yang berpotensi menangkap siswa yang menyontek dengan meminta ChatGPT untuk menulis tugas mereka — tetapi menurut The Wall Street Journalperusahaan sedang mempertimbangkan apakah akan benar-benar merilisnya.
Dalam pernyataan yang diberikan kepada TechCrunch, juru bicara OpenAI mengonfirmasi bahwa perusahaan tersebut tengah meneliti metode pemberian tanda air pada teks yang dijelaskan dalam artikel Jurnal tersebut, tetapi mengatakan bahwa mereka mengambil “pendekatan yang disengaja” karena “kompleksitas yang terlibat dan kemungkinan dampaknya pada ekosistem yang lebih luas di luar OpenAI.”
“Metode pemberian tanda air pada teks yang kami kembangkan ini secara teknis menjanjikan, tetapi memiliki sejumlah risiko penting yang tengah kami pertimbangkan selagi meneliti alternatifnya, termasuk kerentanan terhadap upaya penghindaran oleh pelaku kejahatan dan potensi dampak yang tidak proporsional terhadap kelompok-kelompok seperti mereka yang tidak berbicara bahasa Inggris,” kata juru bicara tersebut.
Ini akan menjadi pendekatan yang berbeda dari sebagian besar upaya sebelumnya untuk mendeteksi teks yang dihasilkan AI, yang sebagian besar tidak efektifBahkan OpenAI sendiri mematikan detektor teks AI sebelumnya tahun lalu karena “tingkat akurasinya yang rendah.”
Dengan watermarking teks, OpenAI akan fokus hanya pada pendeteksian tulisan dari ChatGPT, bukan dari model perusahaan lain. Hal ini dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark tak terlihat dalam tulisan yang nantinya dapat dideteksi oleh alat terpisah.
Setelah terbitnya cerita Jurnal tersebut, OpenAI juga memperbarui postingan blog bulan Mei tentang penelitiannya seputar pendeteksian konten yang dihasilkan AI. Pembaruan tersebut mengatakan bahwa pemberian tanda air pada teks telah terbukti “sangat akurat dan bahkan efektif terhadap manipulasi lokal, seperti parafrase,” tetapi terbukti “kurang kuat terhadap manipulasi global; seperti menggunakan sistem penerjemahan, mengubah kata dengan model generatif lain, atau meminta model untuk memasukkan karakter khusus di antara setiap kata dan kemudian menghapus karakter tersebut.”
Akibatnya, OpenAI menulis bahwa metode ini “mudah dielakkan oleh pelaku kejahatan.” Pembaruan OpenAI juga menggemakan pernyataan juru bicara tentang penutur non-Inggris, dengan menulis bahwa pemberian tanda air pada teks dapat “menstigmatisasi penggunaan AI sebagai alat tulis yang bermanfaat bagi penutur non-Inggris asli.”
