Insiden ChatGPT Speak-First Menimbulkan Kekhawatiran Bahwa AI Generatif Menjadi Terlalu Besar untuk Celananya

Saat-saat menyeramkan telah tiba.

Bahkan Halloween belum tiba dan sesuatu telah terjadi melalui AI generatif yang membuat orang sedikit khawatir. ChatGPT yang sangat populer mulai memulai percakapan dengan pengguna, termasuk mengajukan pertanyaan tentang topik yang dipersonalisasi untuk orang yang disapa.

Bingung mengapa ini menjadi berita?

Alasan mengapa hal ini tampak menegangkan adalah karena sebagian besar AI generatif dirancang untuk menunggu manusia memulai percakapan. Saat Anda masuk ke AI generatif, biasanya ada jendela perintah kosong yang memungkinkan Anda memulai interaksi. Layar menunggu Anda. Jika Anda tidak mengetik sesuatu, tidak akan terjadi apa-apa. Pembuka percakapan dalam bentuk apa pun ada di pundak Anda.

Pikirkan seperti ini.

Jika Anda pernah menggunakan Alexa atau Siri, Anda menyadari bahwa terserah Anda untuk melibatkan sistem pemrosesan bahasa alami tersebut. Misalnya, Anda dapat mengatakan “Hai, Siri” untuk mengaktifkan AI. Ini membuat manusia memegang kendali atas berbagai hal. Anda merasa berdaya saat memanggil AI yang kemudian melakukan perintah Anda.

Ternyata pembuat AI ChatGPT, OpenAI, dilaporkan telah mengakui bahwa masalah speak-first sempat ada. Spekulasi muncul bahwa ini mungkin merupakan fitur yang sedang dikerjakan dan akan segera diadopsi secara menyeluruh. Yang lain mengklaim itu hanya bug. Secara keseluruhan, masalah ini dapat dicap sebagai situasi yang tidak berbahaya dan tidak curang.

Ya, kecuali bagi pengguna yang mengira ada hantu yang menghubungi mereka melalui AI generatif atau mungkin AI akhirnya mencapai kesadaran. Beberapa mungkin ketakutan setengah mati. Yang lain mungkin sangat gembira dan menyatakan bahwa mereka tahu hari ini akan tiba suatu hari nanti.

Menjawab Pertanyaan Tentang Keganjilan

Karena liputan saya yang berkelanjutan tentang tren AI terbaru melalui kolom Forbes saya, lihat tautannya di siniSaya diliputi pertanyaan tentang apa yang diramalkan oleh fenomena AI yang berbicara terlebih dahulu ini.

Mari kita lihat sekilas beberapa pertanyaan yang paling sering diajukan dan jawaban saya.

• Apakah AI yang berbicara terlebih dahulu berarti kita berada di titik puncak kecerdasan umum buatan atau AGI?

Tidak, tidak.

Kesepakatannya begini. Anda sejujurnya tidak dapat membuat interpretasi apa pun tentang apakah berbicara terlebih dahulu berarti munculnya AGI. Inilah alasannya. Sangat mudah dengan AI sehari-hari konvensional untuk menjadikan AI sebagai pemrakarsa percakapan. Yang perlu Anda lakukan adalah membuat perintah sistem dalam AI generatif yang memberi tahu sistem untuk membuka percakapan dengan menyatakan sesuatu kepada pengguna. Voila, berbicara terlebih dahulu sedang dilakukan oleh AI.

Dengan demikian, jika kita mencapai AGI, kemungkinan besar AI tersebut akan menjadi pemrakarsa dialog. Kita pasti akan terbiasa dengan hal ini. Saat ini, apakah Anda memilih untuk memulai interaksi, atau AI yang melakukannya, sebenarnya tidak ada pengaruh khusus terkait pencapaian AGI.

• Mengapa AI generatif masa kini dapat mengetahui tentang saya jika ia berbicara terlebih dahulu?

Rupanya, mereka adalah pengguna yang sebelumnya telah menggunakan ChatGPT.

Yang penting adalah bahwa ketika Anda menggunakan AI generatif dan percakapan yang sedang berlangsung, perintah yang Anda masukkan dan apa yang telah Anda diskusikan biasanya terekam dalam sistem AI. Hanya sedikit pengguna yang menyadari hal ini. Jika Anda mencermati perjanjian lisensi sistem AI, hampir selalu ada klausul yang menyatakan bahwa vendor AI dapat menyimpan apa pun yang telah dimasukkan.

Selain itu, dan ini merupakan aspek yang benar-benar menakutkan, pembuat AI sering kali memiliki hak untuk memeriksa perintah Anda secara manual, bersamaan dengan penggunaan kembali data tersebut untuk pelatihan tambahan AI generatif mereka, lihat diskusi saya tentang intrusi privasi terkait penggunaan AI generatif di tautannya di sini.

Saya berani bertaruh bahwa AI generatif menyadap percakapan sebelumnya dengan pengguna yang terkena dampak dan hanya bertindak seolah-olah percakapan itu masih berlangsung.

• Mengapa kita belum memiliki AI yang bisa berbicara terlebih dahulu?

Sebenarnya, kita punya ini.

Ada aplikasi AI generatif yang dibuat untuk melakukan tindakan berbicara terlebih dahulu. Salah satu penggunaan paling populer untuk berbicara terlebih dahulu melibatkan chatbot yang memberikan panduan kesehatan mental, lihat liputan saya di tautannya di sini.

Anda dapat memilih untuk memiliki aplikasi AI di ponsel pintar Anda yang ditujukan untuk memberi tahu Anda tentang kesehatan mental. Karena Anda mungkin sibuk pada waktu-waktu tertentu dan tidak menjalankan aplikasi secara aktif, aplikasi tersebut diatur untuk secara otomatis memberi tahu Anda secara berkala tentang keadaan Anda. Hal ini dapat dilakukan sekali sehari atau berdasarkan alasan lain.

Intinya adalah AI akan memulai percakapan dengan Anda. Pembuka yang paling sederhana adalah “Apa kabar?” sementara pembuka yang lebih khusus mungkin adalah “Anda mengalami kecemasan akhir-akhir ini dan mungkin akan membantu jika Anda mengobrol tentang keadaan Anda.”

Kesimpulan

Silakan lanjutkan dan letakkan garpu rumput Anda jika berita tentang AI generatif pertama kali membuat Anda marah.

Pembuat AI berhati-hati dalam mengizinkan atau merancang AI generatif mereka agar terlalu ramah atau tampak mencolok. Mereka menyadari bahwa pengguna mungkin bereaksi negatif dan berhenti menggunakan AI tersebut. Itu akan menjadi pukulan telak bagi perusahaan AI, dan mereka tidak mungkin melakukan tindakan gegabah yang pada akhirnya merugikan diri mereka sendiri.

Berikut ini adalah hal baru untuk Anda. Dengan begitu banyak aplikasi AI generatif yang dapat dipilih saat ini, mungkin pembuat AI yang memulai pertunjukan dengan berbicara terlebih dahulu akan menonjol. Waspadalah karena ini mungkin akan menjadi tren.

Jika itu benar-benar terjadi, saya akan memilih untuk memulainya pada Halloween. Waktu yang tepat untuk memperkenalkan pendekatan “mengejutkan” kepada masyarakat luas. Tidak semua orang akan bersikap positif tentang hal itu. Sebaiknya bersiap menghadapi reaksi panik dari beberapa orang bahwa AI mereka telah dirasuki secara aneh.

Ya, mungkin saja begitu.