Akankah alat deteksi AI baru OpenAI mengakhiri kecurangan siswa?

Menurut survei BestColleges, lebih dari setengah siswa menggunakan AI untuk menyontekAngka-angka tersebut sejalan dengan studi Universitas Stanford yang menemukan 60 hingga 70 persen siswa menyontekNamun, AI mungkin akan segera berhenti menjadi jawaban bagi mahasiswa malas untuk menulis makalah. Sebuah cerita Wall Street Journal (WSJ) melaporkan bahwa “OpenAI memiliki metode yang dapat diandalkan mendeteksi ketika seseorang menggunakan ChatGPT untuk menulis esai atau makalah penelitian” — dengan akurasi 99,9%.

Juga: Bagaimana AI berbohong, menipu, dan merendahkan diri untuk meraih kesuksesan – dan apa yang perlu kita lakukan terhadap hal tersebut

Seperti yang telah ditunjukkan oleh rekan saya David Gewritz, banyak program yang sudah menjanjikan untuk mendeteksi teks yang ditulis AINamun, ia menyimpulkan, “Saya tentu tidak akan merasa nyaman mengancam status akademis siswa atau menuduh mereka melakukan kecurangan berdasarkan hasil alat ini.”

Buka AI belum mengungkapkan secara rinci bagaimana metode barunya bisa mendekati sempurna dalam mengidentifikasi teks yang ditulis AI. Tentu saja bukan karena metode ini bisa mendeteksi halusinasi AI. Tidak bisa. Seperti yang dikatakan salah satu pendiri OpenAI John Schulman tahun lalu, “Kekhawatiran terbesar kami adalah seputar faktualitas karena model suka membuat-buat sesuatu.“

Hal ini tidak akan pernah berubah. Menurut Mohamed Elgendy, salah satu pendiri dan kepala eksekutif Kolenalayanan pengujian pembelajaran mesin, “The tingkat halusinasi akan menuruntetapi hal itu tidak akan pernah hilang — seperti halnya orang yang berpendidikan tinggi pun dapat memberikan informasi palsu.”

Alih-alih menggunakan cara ajaib yang mendalam untuk mengenali teks AI, tampaknya OpenAI menggunakan cara yang jauh lebih sederhana untuk mengidentifikasi teks tulisan AI: Layanan tersebut mungkin memberikan tanda air pada hasilnya.

Dalam sebuah posting blog yang baru direvisi, Memahami sumber dari apa yang kita lihat dan dengar secara onlineOpenAI mengungkapkan telah melakukan penelitian menggunakan pengklasifikasi, tanda air, dan metadata untuk menemukan produk yang dibuat AI. Kami belum tahu bagaimana cara kerja tanda air ini secara tepat.

Juga: Kursus AI gratis terbaik (dan apakah sertifikat AI layak)

Kita tahu bahwa OpenAI melaporkan bahwa “sangat akurat dan bahkan efektif terhadap manipulasi lokal, seperti parafrase.” Namun, tanda air “kurang kuat terhadap manipulasi global.”

Artinya, fitur tersebut tidak bekerja dengan baik pada teks terjemahan atau sesuatu yang sesederhana memasukkan karakter khusus ke dalam teks dan kemudian menghapusnya. Dan, tentu saja, fitur tersebut tidak dapat menemukan karya dari model AI lain. Misalnya, jika Anda memasukkan dokumen yang dibuat oleh ChatAPT AI-text spotter ke dalam dokumen tersebut. Google Gemini atau Kebingungankemungkinan besar tidak akan dapat mengidentifikasinya sebagai dokumen yang dibuat AI.

Singkatnya, dengan sedikit usaha lebih, siswa dan penulis akan tetap dapat menganggap pekerjaan chatbot AI sebagai pekerjaan mereka sendiri. Yah, mereka tetap dapat mencoba. Dalam pengalaman saya dengan AI, hasilnya cenderung masih kelas dua. Namun, jika itu cukup baik untuk memberi Anda nilai kelulusan, mungkin itu saja yang Anda butuhkan.

Setidaknya satu orang yang mengaku sebagai profesor di Reddit tidak terkesan: “Masalahnya adalah Anda dapat menyalin-tempel teks ke program lain, menerjemahkannya ke bahasa lain, lalu menerjemahkannya kembali. Tapi sejujurnya, sebagian besar siswa tidak akan melakukan itu, jadi itu akan menjangkiti hampir semua orang.“

Juga: Bagaimana asisten AI Pearson dapat membantu guru menghemat waktu

Tentu saja, hal itu mungkin tidak mengganggu CEO OpenAI Sam Altman, yang mengatakan kepada The Harvard Gazette, “Menyontek saat mengerjakan pekerjaan rumah jelas merupakan hal yang buruk. Namun, apa yang kita maksud dengan kecurangan dan aturan apa yang diharapkan memang berubah seiring waktu.”

Saya tidak tahu tentang itu. Kecurangan adalah kecurangan, tetapi alat baru dalam gudang senjata OpenAI ini sepertinya tidak akan banyak membantu untuk mencegahnya.

Anehnya, sementara OpenAI masih bergulat dengan kapan — atau bahkan apakah — mereka harus merilis layanan baru ini, perusahaan akan segera merilis DALLE 3 pengklasifikasi asal. Ini berarti bahwa, pada akhirnya, hampir setiap gambar yang Anda buat dengan DALL-E akan ditandai sebagai ciptaan AI DALL-E. OpenAI bergantung pada Bahasa Indonesia: C2PA metadata, standar konten digital, untuk menandai dan mengidentifikasi gambar. Jika Anda seorang desainer grafis yang mengandalkan DALL-E untuk membuat grafis “asli”, mungkin sudah saatnya untuk kembali ke Photoshop.