Pengembangan Angkatan Udara AS sebuah pesawat tanpa awak yang dijalankan oleh kecerdasan buatan (AI) berpotensi memberikan keunggulan bagi pasukan Amerika dalam setiap konflik, tetapi hal ini juga menimbulkan pertanyaan etis tentang bagaimana teknologi sekuat itu seharusnya dikerahkan di medan perang.
“Teknologi ini adalah sesuatu yang akan kita butuhkan untuk masa depan pertahanan,” kata Phil Siegel, seorang pakar AI dan pendiri Pusat Simulasi Kesiapsiagaan dan Tanggapan Ancaman Maju, kepada Digital.
Komentar Siegel datang karena Angkatan Udara terus mengembangkan pesawat eksperimental XQ-58A Valkyrie, sebuah platform diam-diam berbasis kecerdasan buatan yang diharapkan AS dapat menyediakan senjata relatif murah yang dapat digunakan untuk membatasi kerugian pada pesawat berawak dan pilot dalam konflik dengan saingan sejajar seperti China.
Pesawat tak berawak berbasis AI ini sedang dikembangkan oleh Kratos Defense & Security Solutions, yang dianugerahi kontrak untuk mengembangkan platform ini pada tahun 2016. Penerbangan uji coba pertama yang sukses dari pesawat ini berlangsung pada Maret 2019, dengan pesawat berperilaku “seperti yang diharapkan” setelah menyelesaikan uji terbang 76 menit.
Sejak itu, pengembangan pada pesawat ini terus berlanjut, termasuk pengujian terbaru yang melihat pesawat terbang dalam formasi bersama F-15E Strike Eagle, menurut laporan dari Defence Connect. Membuktikan kemampuan itu merupakan langkah penting bagi Angkatan Udara, yang membayangkan platform AI sebagai semacam wingman bagi pesawat berawak yang dapat mengidentifikasi ancaman, menyerang target dan bahkan menyerap tembakan musuh untuk pesawat berawak, jika perlu.
Salah satu keunggulan pesawat ini adalah biayanya yang relatif murah, dengan Kratos memperkirakan setiap unit akan berharga sekitar $4 juta jika mereka memproduksi 50 pesawat per tahun, menurut laporan dari The Drive. Harga itu dibandingkan dengan drone MQ-9 Reaper, yang diperkirakan berharga $30 juta per unit, menurut Pentagon, sementara pesawat tempur F-35 berharga sekitar $80 juta per unit.
Steve Fendley, presiden Kratos Unmanned, mengatakan kepada Digital perusahaan telah mengembangkan pesawat yang datang pada titik harga jauh di bawah apa yang diperlukan pemerintah AS sementara masih menyampaikan platform yang memiliki “kemampuan komprehensif”.
“Ekonomi skala luar biasa, baik dari segi biaya pertama kali sistem tak berawak karena Anda tidak memiliki biaya apa pun untuk sistem pendukung kehidupan dan tingkat keandalan yang Anda butuhkan untuk sistem berawak versus sistem tak berawak,” kata Fendley. “Di atas itu, karena Anda telah menyebarkan kemampuan, mendistribusikan kemampuan, Anda menyebarkan biaya itu ke ruang geometris yang jauh lebih luas, yang berarti risiko totalnya sangat, sangat rendah dibandingkan risiko setara untuk [satu] sistem berawak tunggal.”
“Kemampuan untuk menggunakan aset lebih agresif tanpa biaya atau risiko korban jiwa akan menambah kemampuan luar biasa bagi perencana militer,” kata Christopher Alexander, kepala analis di Pioneer Development Group, kepada Digital.
Alexander mengatakan XQ-58A adalah “bukti konsep yang menakjubkan untuk strategi Pentagon yang revolusioner yang mengandalkan solusi yang lebih murah dalam konflik,” tetapi dia mencatat bahwa penggunaan platform itu “juga menimbulkan keprihatinan etis yang penting.”
Perencana militer telah membagikan kekhawatiran tentang seberapa banyak otonomi senjata mematikan yang dijalankan oleh AI yang harus diberikan, kekhawatiran yang disoroti oleh program drone AS, yang terkadang dikritik karena catatannya menimbulkan korban sipil.
Alexander mengatakan kekhawatiran itu sejauh ini “dikelola dengan baik oleh Departemen Pertahanan,” dan Siegel mencatat bahwa pengembangan lebih lanjut akan dibutuhkan jika peran pesawat berbasis AI diperluas dari kemampuan defensif ke ofensif.
“Kuncinya adalah tujuan apa yang kita masukkan ke dalam teknologi,” kata Siegel, mencatat bahwa platform murah itu sejauh ini memusatkan upaya mereka pada pertahanan tim penerbangan berawak. “Peralatan dan intelijen yang lebih mahal mungkin berada di perangkat lain yang memiliki kemampuan ofensif dan defensif. Tapi pertanyaannya kemudian adalah bagaimana menimbang tujuan ini ketika memiliki beberapa peran. Kemudian itu perlu petunjuk tentang apa yang harus dilakukan ketika pertempuran keluar dari ruang pelatihannya atau apa yang terjadi jika sensor atau kameranya dinonaktifkan dan data tidak tersedia?”
Sementara Fendley menunjukkan bahwa Kratos bermitra dengan vendor lain yang mengembangkan AI yang akan terbang di pesawatnya, dia percaya pengaman yang memadai telah diterapkan, mencatat bahwa sistem yang sedang dikembangkan akan memerlukan input manusia sebelum mereka dapat membuat keputusan tertentu.
“Ada banyak kekhawatiran, dan dengan alasan yang tepat, karena saya pikir dalam banyak kasus musuh kita akan jauh lebih bebas dengan apa yang mereka izinkan agen kecerdasan buatan untuk lakukan, dan saya tidak berpikir negara kita akan melakukan itu,” kata Fendley. “Yang sangat penting untuk dipahami adalah memiliki kemampuan tidak berarti Anda melakukannya. Sangat mudah untuk memasang sistem yang bisa mampu mengerahkan senjata tanpa bertanya pada siapa pun. Juga sangat mudah untuk memiliki sistem pembatas di sana.”
Namun, perencana militer percaya kebutuhan akan teknologi seperti itu semakin besar jika AS akan terus mampu menghadapi saingan sejajar seperti China, yang telah menginvestasikan sumber daya yang besar ke dalam sistem pertahanan udara yang bisa membuatnya sulit bagi pasukan Amerika untuk beroperasi dalam konflik tanpa mengalami kerugian peralatan dan manusia yang besar.
“Kita perlu bergerak ke arah menambahkan AI — baik di dalam peralatan dan sebagai bantuan bagi tentara kita membuat keputusan,” kata Siegel. “Seperti semua AI, kita akan perlu memberikannya tujuan kinerja dan memberinya instruksi baik untuk skenario berinformasi tinggi dan berinformasi rendah. Itulah kenyataannya pertempuran.”
