ChatGPT-4o adalah iterasi terbaru dari jajaran chatbot OpenAI, dan seperti yang Anda duga, perusahaan tersebut memiliki beberapa kekhawatiran tentang bagaimana pengguna berinteraksi dengannya. Mengingat bahwa versi terbaru dapat menunjukkan perilaku dan respons seperti manusia, perusahaan kecerdasan buatan tersebut khawatir bahwa pengguna akan mengembangkan perasaan terhadap chatbot tersebut.
ChatGPT-4o menawarkan balasan yang lebih cepat dan bahkan fitur suara baru yang meniru ucapan manusia, yang merupakan hal yang menjadi perhatian OpenAI
Sementara perusahaan rintisan bernilai miliaran dolar ini terus menyempurnakan produknya, perusahaan itu tidak dapat tidak memperhatikan beberapa pola dari pengguna ChatGPT-4o. Peluncuran chatbot baru ini ditujukan untuk memberikan pengalaman yang mirip dengan berbicara dengan manusia, tetapi tampaknya OpenAI meremehkan hubungan emosional yang dapat tercipta antara pengguna dan program tersebut. Perusahaan tersebut telah menyoroti temuannya di bawah ini.
“Selama pengujian awal, termasuk pengujian red teaming dan pengujian pengguna internal, kami mengamati pengguna menggunakan bahasa yang mungkin menunjukkan terbentuknya koneksi dengan model. Misalnya, ini termasuk bahasa yang mengekspresikan ikatan bersama, seperti “Ini hari terakhir kita bersama.” Meskipun kejadian ini tampak tidak berbahaya, hal ini menandakan perlunya penyelidikan lanjutan tentang bagaimana efek ini dapat terwujud dalam jangka waktu yang lebih lama. Populasi pengguna yang lebih beragam, dengan kebutuhan dan keinginan yang lebih bervariasi dari model, selain studi akademis dan internal yang independen akan membantu kami mendefinisikan area risiko ini secara lebih konkret.
Sosialisasi seperti manusia dengan model AI dapat menghasilkan eksternalitas yang memengaruhi interaksi antarmanusia. Misalnya, pengguna dapat membentuk hubungan sosial dengan AI, mengurangi kebutuhan mereka akan interaksi manusia—yang berpotensi menguntungkan individu yang kesepian tetapi mungkin memengaruhi hubungan yang sehat. Interaksi yang lebih lama dengan model tersebut dapat memengaruhi norma sosial. Misalnya, model kami bersifat hormat, memungkinkan pengguna untuk menyela dan 'mengambil mikrofon' kapan saja, yang, meskipun diharapkan untuk AI, akan menjadi anti-normatif dalam interaksi manusia.”
Mengembangkan perasaan terhadap ChatGPT-4o merugikan dalam berbagai situasi. Yang utama adalah bahwa sebelumnya, pengguna akan mengabaikan halusinasi apa pun karena iterasi chatbot sebelumnya membuat mereka tampak lebih seperti program AI daripada manusia. Sekarang, saat program tersebut bertransisi ke arah penyampaian pengalaman yang hampir mirip manusia, apa pun yang dikatakannya dapat diterima tanpa pertanyaan lebih lanjut.
Dengan memperhatikan pola-pola ini, OpenAI sekarang akan memantau bagaimana orang-orang mengembangkan ikatan emosional dengan ChatGPT-4o dan menyesuaikan sistemnya sesuai dengan itu. Perusahaan juga harus menambahkan pernyataan di awal agar pengguna tidak jatuh cinta padanya karena, pada akhirnya, ini adalah program kecerdasan buatan.
Sumber Berita: AI terbuka
