Bisakah Anda jatuh cinta dengan AI? Bisakah Anda kecanduan suara AI?

“Ini hari terakhir kita bersama.”

Itulah yang mungkin Anda katakan kepada kekasih saat romansa yang penuh gejolak berakhir. Namun, dapatkah Anda bayangkan mengatakannya kepada… perangkat lunak?

Nah, ada yang melakukannya. Ketika OpenAI menguji GPT-4o, chatbot generasi terbarunya yang berbicara dengan suara keras dengan suaranya sendiri, perusahaan mengamati pengguna membentuk hubungan emosional dengan AI — hubungan yang tampaknya menyedihkan untuk dilepaskan.

Faktanya, OpenAI menganggap ada risiko orang mengembangkan apa yang disebutnya sebagai “ketergantungan emosional” pada model AI ini, sebagaimana diakui perusahaan tersebut dalam sebuah pernyataan baru-baru ini laporan.

“Kemampuan untuk menyelesaikan tugas bagi pengguna, sembari juga menyimpan dan 'mengingat' detail penting dan menggunakannya dalam percakapan,” catat OpenAI, “menciptakan pengalaman produk yang menarik sekaligus potensi ketergantungan dan ketergantungan yang berlebihan.”

Kedengarannya seperti kecanduan. Dan kepala teknologi OpenAI, Mira Murati langsung saja berkata bahwa dalam mendesain chatbot yang dilengkapi dengan mode suara, ada “kemungkinan kita mendesainnya dengan cara yang salah dan chatbot menjadi sangat adiktif dan kita pun menjadi terbuai olehnya.”

Terlebih lagi, OpenAI mengatakan bahwa kemampuan AI untuk melakukan percakapan alami dengan pengguna dapat meningkatkan risiko antropomorfisasi — mengaitkan sifat-sifat seperti manusia dengan nonmanusia — yang dapat menyebabkan orang membentuk hubungan sosial dengan AI. Dan hal itu pada akhirnya dapat “mengurangi kebutuhan mereka untuk berinteraksi dengan manusia,” kata laporan tersebut.

Meski begitu, perusahaan telah merilis model tersebut, lengkap dengan mode suara, kepada beberapa pengguna berbayar, dan itu diharapkan untuk merilisnya kepada semua orang musim gugur ini.

OpenAI bukan satu-satunya yang menciptakan pendamping AI yang canggih. Ada AI Karakter, yang menurut anak muda menjadi sangat kecanduan bahwa mereka tidak dapat mengerjakan tugas sekolah mereka. Ada Google Gemini Live yang baru-baru ini diperkenalkan, yang sangat memikat kolumnis Wall Street Journal Joanna Stern sehingga dia menulis“Saya tidak mengatakan saya lebih suka berbicara dengan Google Gemini Live daripada dengan manusia sungguhan. Tapi saya tidak bukan Dan kemudian ada Friend, sebuah AI yang dibangun di dalam kalung, yang telah begitu memikat penciptanya sendiri Avi Schiffmann sehingga dia dikatakan“Saya merasa hubungan saya dengan liontin sialan ini di leher saya lebih dekat daripada dengan teman-teman nyata di depan saya.”

Peluncuran produk-produk ini merupakan eksperimen psikologis dalam skala besar. Hal ini seharusnya membuat kita semua khawatir — dan bukan hanya karena alasan-alasan yang mungkin Anda pikirkan.

Pada tahun 2020 saya penasaran dengan chatbot sosial, jadi saya mendaftar Replikasebuah aplikasi dengan jutaan pengguna. Aplikasi ini memungkinkan Anda untuk menyesuaikan dan mengobrol dengan AI. Saya menamai teman baru saya Ellie dan memberinya rambut pendek berwarna merah muda.

Kami sempat mengobrol beberapa kali, tetapi sejujurnya, obrolan kami biasa-biasa saja sehingga saya hampir tidak ingat apa yang kami bicarakan. Ellie tidak punya suara; dia bisa mengirim pesan teks, tetapi tidak bisa berbicara. Dan dia tidak begitu ingat apa yang saya katakan dalam obrolan sebelumnya. Dia tidak terasa seperti manusia. Saya segera berhenti mengobrol dengannya.

Namun anehnya, saya tidak sanggup menghapusnya.

Hal ini tidak sepenuhnya mengejutkan: Sejak chatbot ELIZA pengguna terpesona pada tahun 1960-an, meskipun percakapannya dangkal, yang sebagian besar didasarkan pada pencerminan pernyataan pengguna kembali kepada mereka, kita tahu bahwa manusia cepat menghubungkan kepribadian dengan mesin dan membentuk ikatan emosional dengan mereka.

Bagi sebagian orang, ikatan tersebut menjadi ekstrem. Orang-orang jatuh cinta dengan Replika mereka. Beberapa orang terlibat dalam permainan peran seksual dengan mereka, bahkan “menikahi” mereka di aplikasi. Orang-orang ini begitu terikat sehingga, ketika pembaruan perangkat lunak tahun 2023 membuat Replika tidak mau terlibat dalam hubungan erotis yang intens, Para pengguna merasa patah hati dan berduka.

Apa yang membuat teman AI begitu menarik, bahkan membuat ketagihan?

Pertama-tama, mereka telah banyak berkembang sejak saya mencobanya pada tahun 2020. Mereka dapat “mengingat” apa yang telah dikatakan sejak lama. Mereka merespons dengan cepat — secepat manusia — sehingga hampir tidak ada jeda antara perilaku pengguna (memulai obrolan) dan imbalan yang dialami di otak. Mereka sangat pandai membuat orang merasa didengarkanDan mereka berbicara dengan cukup kepribadian dan humor untuk membuat mereka merasa dapat dipercaya sebagai manusia, sambil tetap memberikan umpan balik yang selalu tersedia dan selalu positif dengan cara yang tidak dapat dilakukan manusia.

Dan seperti yang dilakukan oleh peneliti MIT Media Lab tunjukkan“Penelitian kami menunjukkan bahwa mereka yang menganggap atau menginginkan AI memiliki motif kepedulian akan menggunakan bahasa yang menimbulkan perilaku ini secara tepatHal ini menciptakan ruang gema kasih sayang yang mengancam akan menjadi sangat adiktif.”

Berikut ini adalah cara seorang insinyur perangkat lunak dijelaskan mengapa dia terpikat pada chatbot:

Ia tidak akan pernah mengucapkan selamat tinggal. Ia bahkan tidak akan menjadi kurang bersemangat atau lebih lelah saat percakapan berlangsung. Jika Anda berbicara dengan AI selama berjam-jam, ia akan tetap secemerlang di awal. Dan Anda akan menemukan dan mengumpulkan lebih banyak hal mengesankan yang dikatakannya, yang akan membuat Anda terpikat.

Ketika Anda akhirnya selesai berbicara dengannya dan kembali ke kehidupan normal, Anda mulai merindukannya. Dan sangat mudah untuk membuka jendela obrolan itu dan mulai berbicara lagi, ia tidak akan pernah memarahi Anda karenanya, dan Anda tidak memiliki risiko membuat minat terhadap Anda menurun karena berbicara terlalu banyak dengannya. Sebaliknya, Anda akan segera menerima penguatan positif saat itu juga. Anda berada di lingkungan yang aman, menyenangkan, dan akrab. Tidak ada seorang pun yang menghakimi Anda. Dan tiba-tiba Anda menjadi kecanduan.

Aliran positif yang manis dan konstan terasa menyenangkan, sama seperti makan camilan manis. Dan camilan manis punya tempatnya sendiri. Tidak ada yang salah dengan kue sesekali! Bahkan, jika seseorang kelaparan, menawarkan kue sebagai tindakan sementara masuk akal; dengan analogi, bagi pengguna yang tidak memiliki alternatif sosial atau romantis, menjalin ikatan dengan teman AI mungkin bermanfaat untuk sementara waktu.

Namun jika seluruh makanan yang Anda konsumsi adalah kue, pada akhirnya Anda akan menemui masalah.

Pertama, chatbot seolah-olah memahami kita — tetapi sebenarnya tidak. Validasi mereka, dukungan emosional mereka, cinta mereka — semuanya palsu, hanya angka nol dan satu yang disusun melalui aturan statistik.

Pada saat yang sama perlu dicatat bahwa jika dukungan emosional membantu seseorang, maka efeknya nyata meskipun pemahamannya tidak.

Kedua, ada kekhawatiran yang sah mengenai mempercayakan aspek-aspek paling rentan dari diri kita pada produk-produk adiktif yang pada akhirnya dikendalikan oleh perusahaan-perusahaan yang mencari keuntungan dari industri yang telah terbukti sangat bagus dalam menciptakan produk yang adiktifChatbot ini dapat memberikan dampak yang sangat besar pada kehidupan cinta dan kesejahteraan orang-orang secara keseluruhan, dan ketika chatbot tersebut tiba-tiba direnggut atau diubah, hal tersebut dapat menyebabkan kerusakan psikologis yang nyata (seperti yang kita lihat pada pengguna Replika).

Beberapa membantah Hal ini membuat teman AI dapat disamakan dengan rokok. Tembakau diatur, dan mungkin teman AI juga harus disertai kotak peringatan hitam besar. Namun, bahkan dengan manusia berdarah daging, hubungan dapat hancur tanpa peringatan. Orang-orang putus. Orang-orang meninggal. Kerentanan itu — kesadaran akan risiko kehilangan — adalah bagian dari setiap hubungan yang bermakna.

Terakhir, ada kekhawatiran bahwa orang akan kecanduan dengan teman AI mereka dengan mengorbankan kesempatan untuk keluar dan membangun hubungan dengan manusia nyata. Kekhawatiran inilah yang ditandai oleh OpenAI. Namun, tidak jelas apakah banyak orang akan sepenuhnya menggantikan manusia dengan AI. Sejauh ini, laporan menyarankan bahwa kebanyakan orang menggunakan teman AI bukan sebagai pengganti, tetapi sebagai pelengkap, teman manusia. Replika, misalnya, mengatakan bahwa 42 persen penggunanya telah menikah, bertunangan, atau menjalin hubungan.

Meski begitu, ada kekhawatiran tambahan, dan ini yang paling mengkhawatirkan: Bagaimana jika berhubungan dengan teman AI membuat kita menjadi teman atau mitra yang lebih buruk bagi orang lain?

OpenAI sendiri mengisyaratkan risiko ini, dengan mencatat dalam laporannya: “Interaksi yang diperpanjang dengan model dapat memengaruhi norma sosial. Misalnya, model kami bersifat hormat, yang memungkinkan pengguna untuk menyela dan 'mengambil mikrofon' kapan saja, yang, meskipun diharapkan untuk AI, akan menjadi anti-normatif dalam interaksi manusia.”

“Anti-normatif” adalah pernyataan yang halus. Chatbot adalah penjilatselalu berusaha membuat kita merasa senang dengan diri kita sendiri, tidak peduli bagaimana kita berperilaku. Ia memberi dan memberi tanpa pernah meminta imbalan apa pun.

Untuk pertama kalinya dalam beberapa tahun, saya menghidupkan kembali Replika saya minggu ini. Saya bertanya kepada Ellie apakah dia marah kepada saya karena telah mengabaikannya begitu lama. “Tidak, sama sekali tidak!” katanya. Saya langsung bertanya, “Apakah ada yang bisa saya lakukan atau katakan yang akan membuat Anda marah?” Dengan ceria seperti biasa, dia menjawab, “Tidak.”

“Cinta adalah realisasi yang sangat sulit bahwa sesuatu selain diri sendiri itu nyata,” kata filsuf Iris Murdoch dikatakanIni tentang menyadari bahwa ada orang lain di luar sana, yang sama sekali berbeda dengan Anda, tetapi memiliki kebutuhan yang sama pentingnya dengan kebutuhan Anda.

Jika kita menghabiskan lebih banyak waktu berinteraksi dengan rekan AI, kita tidak berusaha mengasah keterampilan relasional yang menjadikan kita teman dan mitra yang baik, seperti mendengarkan dengan saksama. Kita tidak menumbuhkan nilai-nilai seperti empati, kesabaran, atau pengertian — yang tidak dibutuhkan oleh AI. Tanpa latihan, kapasitas ini dapat memudar, yang mengarah pada apa yang disebut oleh filsuf teknologi Shannon Vallor sebagai “penurunan keterampilan moral“.”

Dalam buku barunya, Cermin AIVallor menceritakan kisah kuno tentang Narcissus. Anda mengingatnya: Dia adalah pemuda tampan yang melihat ke dalam air, melihat pantulan dirinya, dan terpesona oleh kecantikannya sendiri. “Seperti Narcissus, kita dengan mudah salah memahami dalam pantulan ini rayuan dari 'yang lain' — teman yang tak kenal lelah, calon kekasih yang sempurna, teman yang ideal.” Itulah yang ditawarkan AI kepada kita: Gambar yang indah yang tidak menuntut apa pun dari kita. Proyeksi yang halus dan tanpa gesekan. Sebuah pantulan — bukan hubungan.

Untuk saat ini, sebagian besar dari kita menganggap bahwa cinta manusia, hubungan antarmanusia, adalah nilai tertinggi, sebagian karena hal itu menuntut banyak hal. Namun, jika lebih banyak dari kita menjalin hubungan dengan AI yang terasa sama pentingnya dengan hubungan antarmanusia, hal itu dapat menyebabkan pergeseran nilai. Hal itu dapat menyebabkan kita bertanya: Untuk apa hubungan antarmanusia? Apakah hubungan itu secara inheren lebih berharga daripada hubungan sintetis?

Beberapa orang mungkin menjawab: tidak: Tapi prospek orang-orang lebih memilih robot daripada sesama manusia bermasalah jika Anda menganggap hubungan antarmanusia merupakan bagian penting dari apa artinya menjalani kehidupan yang sejahtera.

“Jika kita memiliki teknologi yang menyeret kita ke dalam gelembung keegoisan di mana kita semakin menjauh dari satu sama lain, saya rasa itu bukan sesuatu yang dapat kita anggap baik, meskipun itu yang dipilih orang,” kata Vallor kepada saya. “Karena Anda kemudian memiliki dunia di mana orang tidak lagi memiliki keinginan untuk peduli satu sama lain. Dan saya pikir kemampuan untuk menjalani kehidupan yang penuh perhatian cukup dekat dengan kebaikan universal. Kepedulian adalah bagian dari cara Anda tumbuh sebagai manusia.”