Gelombang baru teknologi pertahanan kini bermunculan, dimana kecerdasan buatan tidak lagi menjadi fungsi pendukung namun menjadi komponen inti dalam operasi mematikan. Scout AI, sebuah perusahaan rintisan di Silicon Valley, baru-baru ini mendemonstrasikan sistem yang mampu mengidentifikasi dan menghancurkan target secara mandiri – dalam hal ini, truk – menggunakan drone dan kendaraan darat yang dikendalikan AI. Hal ini menandai pergeseran signifikan menuju kemampuan militer yang lebih otonom, sehingga meningkatkan peluang dan kekhawatiran yang serius.
Demonstrasi: AI Beraksi
Dalam pengujian tertutup di pangkalan militer California, sistem AI “Fury Orchestrator” Scout AI menerima perintah sederhana: temukan dan hancurkan truk biru 500 meter di sebelah timur lapangan terbang. Sistem tersebut, dibangun berdasarkan model AI sumber terbuka yang dimodifikasi dengan lebih dari 100 miliar parameter, mengendalikan kendaraan tanpa pengemudi dan dua drone bersenjata. Dalam beberapa menit, drone menemukan target dan meledakkan bahan peledak, memastikan keberhasilan misi tersebut. Ini bukanlah simulasi; itu adalah demonstrasi langsung dari kematian yang disebabkan oleh AI.
Hal penting yang bisa diambil adalah AI kini mampu mengambil keputusan di medan perang tanpa campur tangan manusia. Hal ini mencakup pemilihan target, navigasi, dan eksekusi kekuatan mematikan.
Perlombaan untuk Dominasi AI Militer
Pesatnya perkembangan AI di bidang pertahanan didorong oleh keyakinan bahwa AI akan menentukan konflik di masa depan. Para pembuat kebijakan dan ahli strategi militer melihat AI sebagai cara untuk mendapatkan keunggulan, itulah sebabnya pemerintah AS membatasi penjualan chip AI yang canggih kepada pesaing seperti Tiongkok. Namun, para ahli mengingatkan bahwa walaupun potensinya tinggi, risikonya juga tinggi.
Michael Horowitz, mantan pejabat Pentagon, mengakui pentingnya mendorong batasan AI namun memperingatkan bahwa implementasi praktisnya sulit dilakukan. Model bahasa besar tidak dapat diprediksi, dan bahkan tugas dasar AI pun dapat menyebabkan perilaku yang tidak terduga. Kerentanan keamanan siber pada sistem tersebut juga menjadi perhatian utama.
Tumpukan AI: Cara Kerjanya
Sistem Scout AI bergantung pada struktur AI hierarkis. Model fondasi besar menafsirkan perintah tingkat tinggi dan mendelegasikan tugas ke agen AI khusus yang lebih kecil yang dijalankan pada kendaraan darat dan drone. Agen-agen ini kemudian mengendalikan sistem tingkat rendah yang bertanggung jawab atas pergerakan, penargetan, dan peledakan. Otonomi berjenjang ini memungkinkan sistem untuk beradaptasi terhadap perubahan kondisi, namun juga menimbulkan potensi kesalahan atau konsekuensi yang tidak diinginkan.
“Inilah yang membedakan kami dari otonomi lama. Sistem tersebut tidak dapat merencanakan ulang berdasarkan informasi yang dilihatnya dan niat komandan; sistem tersebut hanya menjalankan tindakan secara membabi buta.” – Colby Adcock, CEO Pramuka AI.
Masalah Etis dan Praktis
Penerapan sistem senjata yang dikendalikan AI menimbulkan pertanyaan etika yang signifikan. Pakar pengendalian senjata dan ahli etika AI memperingatkan bahwa AI akan kesulitan membedakan antara kombatan dan non-kombatan, sehingga menyebabkan jatuhnya korban sipil. Perang di Ukraina telah menunjukkan betapa mudahnya drone konsumen digunakan sebagai senjata, sehingga mengaburkan batasan antara teknologi militer dan sipil.
Terlepas dari kekhawatiran ini, Scout AI menegaskan bahwa teknologinya mematuhi aturan keterlibatan militer AS dan norma-norma internasional. Perusahaan ini telah mendapatkan empat kontrak dengan Departemen Pertahanan dan sedang mengupayakan pendanaan tambahan untuk mengembangkan sistem pengendalian gerombolan.
Tantangan terbesarnya adalah menerjemahkan demonstrasi-demonstrasi ini ke dalam sistem tingkat militer yang dapat diandalkan, aman, dan dapat diprediksi. Sebagaimana dicatat oleh Horowitz, “Kita tidak boleh mengacaukan demonstrasi mereka dengan kemampuan lapangan yang memiliki keandalan dan keamanan siber tingkat militer.”
Masa depan peperangan berubah dengan cepat, dan AI berada di garis depan. Meskipun potensi manfaatnya jelas, risikonya – baik secara etika maupun praktis – tidak dapat diabaikan.
