Sekitar dua bulan lalu, salah satu pendiri Shield AI Brandon Tseng dan salah satu karyawannya berada di dalam Uber yang melewati Kyiv, Ukraina. Mereka sedang menuju pertemuan dengan pejabat militer untuk menjual sistem pilot AI dan drone mereka, ketika tiba-tiba karyawannya menunjukkan peringatan di teleponnya. Bom Rusia masuk. Tseng menghadapi kemungkinan kematiannya dengan mengangkat bahu. “Jika ini waktumu untuk pergi,” katanya, “maka inilah waktumu untuk pergi.”
Tseng, mantan Navy SEAL, sangat ingin mengambil tindakan lebih lanjut. Karyawan Shield AI sebelumnya pernah mengunjungi wilayah yang jauh lebih berbahaya di Ukraina, melatih pasukan mengenai perangkat lunak dan drone mereka. “Saya cukup iri dengan tujuan mereka,” kata Tseng. “Hanya dari sudut pandang petualangan.”
Tseng mewujudkan sifat macho yang dimiliki sebagian besar pendiri teknologi pertahanan. Ketika saya bertemu dengannya bulan lalu di kantor perusahaan di Arlington, dia memamerkan pisau yang dipajang di kantornya yang diukir dengan slogan SEAL “Menderita dalam diam.” Dinding putih, yang bagian atasnya bersinar dengan lampu neon (agar terlihat seperti pesawat ruang angkasa, kata Tseng), ditutupi dengan slogan-slogan seperti “Lakukan apa yang diperintahkan oleh kehormatan” dan “Dapatkan perisai Anda setiap hari.” Saya tunjukkan bahwa mereka cukup intens. “Benarkah?” jawab Tseng.
Pada tahun 2015, Tseng mendirikan Shield AI bersama saudaranya, Ryan Tseng, seorang insinyur kelistrikan yang dianugerahi paten, dengan misi yang jelas: “Kami membangun pilot AI terbaik di dunia,” katanya. “Saya ingin memberikan satu juta pilot AI ke tangan pelanggan.”
Untuk itu, dia dan saudaranya telah mengumpulkan lebih dari $1 miliar dari investor seperti Riot Ventures dan Dana Teknologi Inovatif AS. Perusahaan mengembangkan perangkat lunak AI untuk membuat kendaraan udara menjadi otonom, meskipun Tseng mengatakan mereka juga menginginkan perangkat lunak Shield AI dalam sistem bawah air dan permukaan. Ia juga memiliki produk perangkat keras, seperti drone V-BAT-nya.
Shield AI juga merupakan bagian dari kelas startup teknologi pertahanan yang langka: startup yang benar-benar mendapatkan kontrak pemerintah dengan jumlah yang cukup besar, seperti perusahaannya. Kontrak $198 juta dari Penjaga Pantai tahun ini. Seolah mencoba memposisikan diri untuk masa depan yang lebih besar, para pendiri memilih kantor baru yang dikelilingi oleh tiga lantai Raytheon, salah satu kontraktor pertahanan besar.
Ukraina: Laboratorium untuk startup teknologi pertahanan AS
Tanggal 16 September adalah tanda perubahan zaman: Alih-alih membuat para pendiri teknologi pertahanan terbang ke Capitol, mengenakan pakaian mereka, dan merendahkan diri kepada politisi, Washington, DC, malah mendatangi mereka.
Anggota Komite Angkatan Bersenjata DPR AS berkumpul dengan CTO Palantir Shyam Sankar, Brandon Tseng, dan eksekutif dari Skydio, Applied Intuition, dan Saildrone di kampus Silicon Valley UC Santa Cruz. Mereka membahas reformasi akuisisi Departemen Pertahanan AS (DoD) dan, tentu saja, peran teknologi AS di Ukraina. Itu yang pertama audiensi publik komite ini diadakan di luar Washington, DC, sejak tahun 2006.
Ukraina telah “menjadi laboratorium yang hebat,” kata Tseng kepada para pembuat kebijakan. “Apa yang menurut saya telah ditemukan oleh pihak Ukraina adalah bahwa mereka tidak akan menggunakan apa pun yang tidak berhasil di medan perang, titik.”
Para pendiri teknologi pertahanan, seperti salah satu pendiri Anduril Palmer Luckey Dan Salah satu pendiri Skydio Adam Brysemuanya berbondong-bondong ke negara yang diperangi untuk menjual teknologi yang relatif baru untuk medan perang yang memburuk dengan cepat. Sayangnya, tidak semua teknologi AS berfungsi. Menurut a Laporan Wall Street Journaldrone dari perusahaan rintisan AS hampir secara umum gagal beroperasi melalui peperangan elektronik di Ukraina, yang berarti drone tersebut berhenti berfungsi di bawah teknologi pemadaman GPS Rusia.
“Ukraina sedang berperang dan banyak orang terbunuh. Namun… Anda ingin mengambil pembelajaran tersebut,” kata Tseng kepada saya seminggu kemudian, saat merenungkan sidang tersebut. “Anda tidak ingin harus mempelajari kembali pelajaran-pelajaran itu. Amerika Serikat seharusnya tidak ingin mempelajari kembali pelajaran apa pun dari hal tersebut.”
Tentu saja, dia yakin bahwa drone Shield AI memiliki kinerja yang lebih baik di Ukraina dibandingkan drone lainnya karena, katanya, drone tersebut dapat beroperasi tanpa bergantung pada GPS. “Kami sedang berupaya untuk mendatangkan lebih banyak drone ke sana berdasarkan keberhasilan yang telah kami capai,” katanya, meskipun ia menolak menyebutkan secara spesifik berapa banyak drone yang telah dikirimkan oleh Shield AI.
Pembunuh AI yang mirip Terminator? Atau 'Permainan Ender'?
Kantor pojok Tseng kosong, di samping salinan Konstitusi berbingkai, yang digantung miring di dinding. Dia mendaftarkannya sebagai salah satu inspirasi terbesarnya. “Bukan karena kami sempurna, tapi karena kami mencita-citakan nilai-nilai yang menurut saya merupakan nilai-nilai sempurna,” katanya. “Itulah yang paling penting. Kami selalu bergerak ke arah itu.”
Dia meluruskan bingkainya sebelum menelusuri sejarah singkat peperangan. Pencegahan, kata dia, cenderung terjadi ketika muncul teknologi baru yang radikal, seperti bom atom, atau teknologi siluman dan GPS. AI, katanya, akan mengantarkan era baru pencegahan – dengan asumsi Departemen Pertahanan mendanainya dengan benar. “Perusahaan swasta mengeluarkan lebih banyak uang untuk AI dan otonomi dibandingkan jumlah keseluruhan anggaran pertahanan,” katanya.
Nilai potensial kontrak federal terkait AI membengkak menjadi $4,6 miliar pada tahun 2023 dari $335 juta pada tahun 2022, menurut sebuah laporan oleh Brookings Institution. Namun jumlah tersebut masih sebagian kecil dari lebih dari $70 miliar yang diinvestasikan oleh VC pada teknologi pertahanan pada periode yang hampir sama, menurut PitchBook.
Namun, pertanyaan terbesar mengenai penggunaan AI di militer bukanlah anggaran, melainkan etika. Para pendiri dan pembuat kebijakan sama-sama bergulat apakah akan mengizinkan senjata yang sepenuhnya otonom, yang berarti AI sendiri yang memutuskan kapan harus membunuh. Akhir-akhir ini, retorika beberapa pendiri tampaknya berpihak pada pembuatan senjata semacam itu.
Beberapa hari yang lalu, misalnya, Keberuntungan Anduril mengklaim bahwa saat ini ada “kampanye bayangan yang dilakukan di PBB oleh banyak musuh kita” untuk mengelabui negara-negara Barat agar tidak menggunakan AI secara agresif. Dia menyiratkan bahwa AI yang sepenuhnya otonom tidak lebih buruk dari ranjau darat. Namun dia tidak menyebutkan bahwa AS termasuk di antara lebih dari 160 negara yang mengalami hal tersebut setuju untuk melarang penggunaan ranjau darat anti-personil di sebagian besar tempat.
Tseng dengan tegas menentang senjata yang sepenuhnya otonom. “Saya harus mengambil keputusan moral tentang penggunaan kekuatan mematikan di medan perang,” katanya. “Itu adalah keputusan manusia dan akan selalu menjadi keputusan manusia. Itulah sudut pandang Shield AI. Itu juga merupakan sudut pandang militer AS.”
Dia benar bahwa militer AS saat ini tidak membeli senjata yang sepenuhnya otonom, meski tidak melarang perusahaan untuk mengembangkannya. Bagaimana jika AS mengubah pendiriannya? “Menurutku itu hipotesis yang gila,” jawabnya. “Kongres tidak menginginkan hal itu. Tidak ada yang menginginkan itu.”
Jadi jika dia tidak melihat pasukan pembunuh seperti Terminator, apa yang dia bayangkan? “Satu orang dapat memimpin dan mengendalikan satu juta drone,” kata Tseng. “Tidak ada batasan teknologi mengenai seberapa banyak seseorang dapat memimpin secara efektif di medan perang.”
Ini akan mirip dengan “Ender's Game,” katanya, merujuk pada film fiksi ilmiah klasik tahun 1985 di mana seorang perwira militer anak-anak dapat melepaskan pasukan luar angkasa hanya dengan lambaian tangan.
“Kecuali manusia sebenarnya yang dia perintahkan, yang akan dia perintahkan adalah robot,” kata Tseng.
