CEO Anthropic Dario Amodei ingin Anda tahu bahwa dia bukan “penghancur” AI.
Setidaknya, itulah yang saya baca tentang “mic drop” dari ~15.000 kata karangan Amodei menerbitkannya di blognya Jumat malam. (Saya mencoba menanyakan chatbot Claude Anthropic apakah setuju, namun sayangnya, postingan tersebut melebihi batas panjang paket gratis.)
Secara garis besar, Amodei melukiskan gambaran dunia di mana semua risiko AI dimitigasi, dan teknologi ini memberikan kemakmuran, peningkatan sosial, dan kelimpahan yang sampai saat ini belum terealisasi. Dia menegaskan hal ini bukan untuk meminimalkan kelemahan AI. Pada awalnya, Amodei membidik, tanpa menyebutkan nama, pada perusahaan AI yang menjual secara berlebihan dan secara umum mempropagandakan kemampuan teknologi mereka. Namun ada yang mungkin berpendapat bahwa esai tersebut terlalu condong ke arah tekno-utopis, sehingga membuat klaim tidak didukung oleh fakta.
Amodei percaya bahwa “AI yang kuat” akan tiba pada tahun 2026. Oleh AI yang kuat, maksudnya AI yang “lebih pintar dari pemenang Hadiah Nobel” di bidang seperti biologi dan teknik, dan dapat melakukan tugas-tugas seperti membuktikan teorema matematika yang belum terpecahkan dan menulis “novel yang sangat bagus.” AI ini, kata Amodei, akan mampu mengendalikan perangkat lunak atau perangkat keras apa pun, termasuk mesin industri, dan pada dasarnya melakukan sebagian besar pekerjaan yang dilakukan manusia saat ini – namun dengan lebih baik.
“(AI ini) dapat terlibat dalam tindakan, komunikasi, atau operasi jarak jauh apa pun … termasuk mengambil tindakan di internet, mengambil atau memberikan arahan kepada manusia, memesan materi, mengarahkan eksperimen, menonton video, membuat video, dan sebagainya,” tulis Amodei. . “Tidak mempunyai wujud fisik (selain hidup di layar komputer), namun dapat mengendalikan alat fisik, robot, atau peralatan laboratorium yang ada melalui komputer; secara teori, mereka bahkan bisa merancang robot atau peralatan untuk digunakan sendiri.”
Banyak hal yang harus dilakukan untuk mencapai titik itu.
Bahkan AI terbaik saat ini tidak bisa “memikirkan” dalam cara kita memahaminya. Model tidak terlalu banyak bernalar, melainkan mereplikasi pola yang telah mereka amati dalam data pelatihannya.
Dengan asumsi argumen Amodei bahwa industri AI akan segera “menyelesaikan” pemikiran yang mirip manusia, akankah robotika bisa mengejar ketinggalan sehingga AI di masa depan dapat melakukan eksperimen di laboratorium, membuat alatnya sendiri, dan seterusnya? Kerapuhan robot masa kini menyiratkan bahwa hal tersebut masih jauh dari harapan.
Namun Amodei optimis – sangat optimis.
Ia yakin AI, dalam 7-12 tahun ke depan, dapat membantu mengobati hampir semua penyakit menular, menghilangkan sebagian besar kanker, menyembuhkan kelainan genetik, dan menghentikan penyakit Alzheimer pada tahap awal. Dalam 5-10 tahun ke depan, Amodei berpikir bahwa kondisi seperti PTSD, depresi, skizofrenia, dan kecanduan akan disembuhkan dengan obat-obatan buatan AI, atau dicegah secara genetik melalui skrining embrio (sebuah pendapat yang kontroversial) — dan juga akan ada obat-obatan yang dikembangkan oleh AI yang “menyesuaikan fungsi kognitif dan keadaan emosional” untuk “membuat (otak kita) berperilaku sedikit lebih baik dan mendapatkan pengalaman sehari-hari yang lebih memuaskan.”
Jika hal ini terjadi, Amodei memperkirakan rata-rata umur manusia akan berlipat ganda menjadi 150 tahun.
“Prediksi dasar saya adalah biologi dan kedokteran yang didukung AI akan memungkinkan kita memperkecil kemajuan yang bisa dicapai para ahli biologi manusia dalam 50-100 tahun ke depan menjadi 5-10 tahun,” tulisnya. “Saya akan menyebutnya sebagai 'abad ke-21 yang terkompresi': gagasan bahwa setelah AI yang canggih dikembangkan, dalam beberapa tahun kita akan mencapai semua kemajuan di bidang biologi dan kedokteran seperti yang bisa kita capai sepanjang abad ke-21.”
Hal ini juga tampak seperti sebuah hal yang berlebihan, mengingat AI belum mengubah dunia kedokteran secara radikal – dan mungkin tidak akan terjadi dalam jangka waktu yang cukup lama, atau selamanya. Bahkan jika AI melakukannya mengurangi Karena tenaga kerja dan biaya yang dikeluarkan untuk memasukkan suatu obat ke dalam pengujian pra-klinis, obat tersebut mungkin gagal pada tahap selanjutnya, sama seperti obat yang dirancang oleh manusia. Pertimbangkan bahwa AI yang diterapkan dalam layanan kesehatan saat ini telah terbukti berhasil bias dan berisiko dalam beberapa hal, atau sangat sulit untuk diterapkan di lingkungan klinis dan laboratorium yang ada. Menyarankan bahwa semua masalah ini dan masalah lainnya akan diselesaikan secara kasar dalam dekade ini tampaknya merupakan hal yang aspiratif.
Tapi Amodei tidak berhenti di situ.
AI bisa mengatasi kelaparan dunia, klaimnya. Hal ini dapat membalikkan keadaan perubahan iklim. Dan hal ini dapat mengubah perekonomian di sebagian besar negara berkembang; Amodei yakin AI dapat meningkatkan PDB per kapita Afrika sub-Sahara ($1.701 pada tahun 2022) menjadi PDB per kapita Tiongkok ($12.720 pada tahun 2022) dalam 5-10 tahun.
Ini adalah pernyataan yang berani, meskipun mungkin sudah tidak asing lagi bagi siapa pun yang mendengarkan pengikut gerakan “Singularitas”, yang mengharapkan hasil serupa. Yang patut dipuji oleh Amodei, ia mengakui bahwa perkembangan tersebut memerlukan “usaha besar dalam bidang kesehatan global, filantropi, (dan) advokasi politik,” yang ia yakini akan terjadi karena hal ini merupakan kepentingan ekonomi terbaik dunia.
Hal ini akan menjadi perubahan dramatis dalam perilaku manusia jika hal ini terjadi, mengingat masyarakat telah berulang kali menunjukkan bahwa kepentingan utama mereka adalah pada apa yang menguntungkan mereka dalam jangka pendek. (Deforestasi hanyalah satu contoh di antara ribuan.) Perlu diperhatikan juga bahwa banyak di antaranya pekerja yang bertanggung jawab untuk memberi label pada kumpulan data yang digunakan untuk melatih AI dibayar jauh di bawah upah minimum sementara pemberi kerja mereka meraup puluhan juta — atau ratusan juta — modal dari hasil.
Secara singkat, Amodei menyinggung bahaya AI bagi masyarakat sipil, dan mengusulkan agar koalisi negara-negara demokrasi mengamankan rantai pasokan AI dan memblokir pihak-pihak yang berniat menggunakan AI untuk tujuan berbahaya melalui produksi AI yang kuat (semikonduktor, dll.). Pada saat yang sama, ia berpendapat bahwa AI, jika berada di tangan yang tepat, dapat digunakan untuk “melemahkan pemerintahan yang represif” dan bahkan mengurangi bias dalam sistem hukum. (AI secara historis bias yang semakin parah dalam sistem hukum.)
“Penerapan AI yang benar-benar matang dan sukses berpotensi mengurangi bias dan menjadi lebih adil bagi semua orang,” tulis Amodei.
Jadi, jika AI mengambil alih setiap pekerjaan yang bisa dilakukan dan melakukannya dengan lebih baik dan lebih cepat, bukankah hal itu akan membuat manusia kesulitan secara ekonomi? Amodei mengakui bahwa, ya, hal itu akan terjadi, dan pada saat itu, masyarakat harus berdiskusi tentang “bagaimana perekonomian harus diatur.”
Tapi dia tidak menawarkan solusi.
“Orang-orang memang menginginkan rasa pencapaian, bahkan rasa persaingan, dan di dunia pasca-AI, sangat mungkin untuk menghabiskan waktu bertahun-tahun untuk melakukan tugas yang sangat sulit dengan strategi yang kompleks, mirip dengan apa yang dilakukan orang-orang saat ini ketika mereka memulai. proyek penelitian, mencoba menjadi aktor Hollywood, atau mendirikan perusahaan,” tulisnya. “Fakta bahwa (a) AI di suatu tempat pada prinsipnya dapat melakukan tugas ini dengan lebih baik, dan (b) tugas ini tidak lagi menjadi elemen perekonomian global yang bernilai ekonomi, bagi saya tampaknya tidak terlalu menjadi masalah.”
Amodei mengemukakan gagasan tersebut, sebagai penutup, bahwa AI hanyalah sebuah akselerator teknologi — bahwa manusia secara alami cenderung menuju “nilai-nilai supremasi hukum, demokrasi, dan Pencerahan.” Namun dalam melakukan hal tersebut, ia mengabaikan banyak kerugian yang ditimbulkan oleh AI. AI adalah diproyeksikan untuk dimiliki — telah menimbulkan — dampak lingkungan yang sangat besar. Dan hal ini menciptakan kesenjangan. Ekonom pemenang Hadiah Nobel Joseph Stiglitz dan yang lainnya pernah melakukannya dicatat gangguan ketenagakerjaan yang disebabkan oleh AI dapat semakin memusatkan kekayaan di tangan perusahaan dan menjadikan pekerja semakin tidak berdaya dibandingkan sebelumnya.
Perusahaan-perusahaan ini termasuk Anthropic, meskipun Amodei enggan mengakuinya. Bagaimanapun, antropik adalah sebuah bisnis – satu dilaporkan bernilai hampir $40 miliar. Dan pihak yang mendapat manfaat dari teknologi AI ini, pada umumnya, adalah perusahaan-perusahaan yang tanggung jawabnya hanyalah meningkatkan keuntungan bagi pemegang saham, bukan meningkatkan kesejahteraan manusia.
Faktanya, orang yang sinis mungkin mempertanyakan waktu penulisan esai tersebut, mengingat Anthropic dikatakan sedang dalam proses mengumpulkan dana ventura senilai miliaran dolar. CEO OpenAI Sam Altman menerbitkan hal serupa manifesto teknopotimis sesaat sebelum OpenAI menutup putaran pendanaan $6,5 miliar. Mungkin itu suatu kebetulan.
Lagi pula, Amodei bukanlah seorang dermawan. Seperti CEO mana pun, dia memiliki produk untuk dipasarkan. Kebetulan produknya akan “menyelamatkan dunia” — dan mereka yang berpikir sebaliknya berisiko tertinggal. Atau begitulah dia ingin Anda percaya.
