“Dalam kasus tersebut, jika Anda tidak mengambil tindakan pencegahan dan kehilangan perangkat, perangkat tersebut dapat diakses,” kata Hsu. “Namun, itu sangat ekstrem.”
Pada akhirnya, Hsu memiliki ambisi yang lebih besar untuk perusahaannya daripada perangkat yang berfokus pada pekerjaan, meskipun ia berhati-hati untuk menunjukkan bahwa inilah yang menjadi fokus mereka sekarang, dan ia menyadari ketidaknyamanan yang mungkin ditimbulkannya.
“Kami punya visi besar, yaitu apa yang akan terjadi jika pengguna dapat merekam semua percakapan dalam kehidupan sehari-hari mereka, bahkan mungkin setelah puluhan tahun,” kata Hsu. “Jika ia selalu mendengarkan Anda, ia akan mempelajari Anda, dan seiring waktu ia akan mengenal kepribadian Anda, preferensi Anda, interaksi Anda. Suatu hari nanti, Anda akan dapat memanfaatkan AI untuk mereproduksi diri Anda—menciptakan kembaran digital yang nyata. Itulah misi besarnya, di mana kami berpikir jika kami dapat membantu pengguna terhubung dengan begitu banyak kenangan, itu akan menjadi luar biasa.”
Jelas bahwa AI berpotensi mengubah banyak cara manusia beroperasi. Namun, beberapa pendukung dan pakar menyatakan kekhawatiran tentang apa yang terjadi ketika kemampuan ini dipercayakan kepada perangkat AI—terutama yang dirancang untuk dikenakan sepanjang waktu.
Dalam sebuah wawancara untuk sebuah cerita sebelumnya tentang gadget AI, Jodi Halpernseorang profesor bioetika dan humaniora medis di UC Berkeley menyamakan tren mengalihkan kemampuan manusia ke perangkat AI dengan cara orang tidak perlu melacak petunjuk arah saat mereka dapat mengandalkan layanan seperti Google Maps.
“Mungkin ada dimensi perkembangan manusia yang tidak terjadi lagi,” kata Halpern. “Seperti kita tidak mengembangkan indra arah, kita mungkin tidak mengembangkan kedalaman sosial emosional dalam berurusan dengan orang yang berbeda dari diri kita dan menjadi ingin tahu secara empatik. Jika kita memiliki perasaan terus-menerus bahwa ada sesuatu yang mendengarkan dan semacam mengawasi kita, itu adalah cara untuk tidak belajar bagaimana menjadi, dengan cara tertentu, sendirian dengan diri kita sendiri.”
Terlepas dari semua kemegahan filosofis itu, masih belum jelas apakah orang benar-benar bersedia berinvestasi pada perangkat semacam ini sejak awal. Plaud memiliki kasus penggunaan yang menarik, tetapi memasuki bidang yang ramai di mana ia harus bersaing dengan perangkat lain dan, yah, ribuan aplikasi di telepon pintar—perangkat yang sudah dibawa orang sepanjang hari.
Dan pengguna mungkin menemukan bahwa peralatan lama yang membosankan yang mereka gunakan saat ini lebih matang dan lebih efektif daripada penemuan-penemuan yang heboh ini.
“Semua yang dilakukan ChatGPT, hasilnya lebih buruk daripada hal lain yang dirancang untuk melakukan hal itu,” kata Ghosh. “Saya pikir orang-orang yang tertipu dengan anggapan bahwa sistem ini lebih akurat daripada yang sebenarnya adalah masalah utamanya.”
