Flo Crivello sedang memantau output dari asisten AI perusahaannya Lindy membuat ketika dia menyadari sesuatu yang aneh. Seorang klien baru telah meminta asisten Lindy AI-nya untuk membuat tutorial video yang akan membantunya lebih memahami cara menggunakan platform tersebut, dan Lindy menanggapi dengan baik — saat itulah Crivello tahu ada sesuatu yang salah. Tidak ada tutorial video.
“Kami melihat ini dan berpikir, 'Oke, video seperti apa yang dikirimnya?' lalu kami berpikir, 'Wah, ini masalah,'” tutur Crivello kepada TechCrunch.
Itu video yang dikirim AI ke klien adalah video musik untuk lagu dance-pop hit Rick Astley tahun 1987 “Never Gonna Give You Up.” Dalam istilah yang lebih umum: klien di-Rickroll. Oleh AI.
Rickrolling adalah meme umpan-dan-ganti yang sudah berusia lebih dari 15 tahun. Dalam satu insiden yang memopulerkan meme tersebut, Rockstar Games merilis trailer “Grand Theft Auto IV” yang banyak digembar-gemborkan di situs webnya, tetapi lalu lintasnya sangat besar sehingga situs tersebut mogok. Beberapa orang berhasil mengunduh dan memposting video tersebut ke situs lain seperti YouTube, membagikan tautannya sehingga orang-orang dapat melihat trailernya. Namun, seorang pengguna 4chan memutuskan untuk mengerjai dan membagikan tautan lagu Rick Astley “Never Gonna Give You Up.” Tujuh belas tahun kemudian, orang-orang masih mengerjai teman-teman mereka dengan membagikan lagu Astley pada saat-saat yang tidak tepat — sekarang video musik tersebut telah 1,5 miliar tampilan di YouTube.
Lelucon internet ini sangat umum sehingga mau tidak mau, model bahasa besar seperti ChatGPT, yang mendukung Lindy, mendeteksinya.
“Cara kerja model ini adalah mencoba memprediksi urutan teks berikutnya yang paling mungkin,” kata Crivello. “Jadi, dimulai seperti, 'Oh, saya akan mengirimi Anda video!' Jadi, apa yang paling mungkin setelah itu? YouTube.com. Lalu, apa yang paling mungkin setelah itu?”
Crivello mengatakan kepada TechCrunch bahwa dari jutaan respons, Lindy hanya melakukan Rickroll terhadap pelanggan sebanyak dua kali. Namun, kesalahan tersebut perlu diperbaiki.
“Hal yang benar-benar luar biasa tentang era baru AI ini adalah, untuk menambalnya, yang harus saya lakukan hanyalah menambahkan baris untuk apa yang kami sebut perintah sistem — yang merupakan perintah yang disertakan dalam setiap Lindy — dan seperti, jangan Rickroll orang-orang,” katanya.
Kelalaian Lindy menimbulkan pertanyaan seberapa banyak budaya internet akan diserap ke dalam model AI, karena model ini sering dilatih pada bagian web yang luas. Rickroll yang tidak disengaja oleh Lindy sangat luar biasa karena AI secara organik mereproduksi perilaku pengguna yang sangat spesifik ini, yang menginformasikan halusinasinya. Namun jejak humor internet meresap ke dalam AI dengan cara lain, yang dipelajari Google dengan cara yang sulit ketika data Reddit berlisensi untuk melatih AI-nya. Sebagai pusat konten buatan pengguna — yang sebagian besar bersifat satir — AI Google akhirnya memberi tahu pengguna bahwa Anda dapat membuat keju lebih menempel pada adonan pizza dengan menambahkan lem.
“Dalam kasus Google, itu bukan benar-benar mengada-ada,” kata Crivello. “Itu berdasarkan konten — hanya saja kontennya buruk.”
Seiring dengan pesatnya peningkatan LLM, Crivello berpendapat bahwa kita tidak akan melihat banyak kesalahan seperti ini di masa mendatang. Ditambah lagi, Crivello mengatakan bahwa lebih mudah dari sebelumnya untuk menambal kesalahan ini. Pada masa-masa awal Lindy, jika salah satu asisten AI-nya tidak dapat menyelesaikan tugas yang diminta pengguna, AI akan mengatakan bahwa ia sedang mengerjakannya tetapi tidak akan pernah mengirimkan produknya. (Anehnya, itu terdengar cukup manusiawi.)
“Sangat sulit bagi kami untuk menambal masalah itu,” kata Crivello. “Namun ketika GPT-4 keluar, kami hanya menambahkan perintah seperti, 'Jika pengguna meminta Anda melakukan sesuatu yang tidak dapat Anda lakukan, katakan saja bahwa Anda tidak dapat melakukannya.' Dan itu berhasil memperbaikinya.”
Untuk saat ini, kabar baiknya adalah pelanggan yang mendapatkan Rickrolled mungkin tidak mengetahuinya.
“Saya bahkan tidak tahu apakah pelanggan tersebut melihatnya,” katanya. “Kami langsung menindaklanjutinya dengan mengatakan, 'Oh, ini tautan yang tepat ke video tersebut,' dan pelanggan tersebut tidak mengatakan apa pun tentang tautan pertama.”
