Jakarta, CNBC Indonesia - Sebuah laporan intelijen yang beredar di lingkungan militer Amerika Serikat (AS) pada musim semi lalu nyaris memicu insiden serius dengan China. Laporan tersebut menyebut sebuah kapal China yang berlayar di Timur Tengah membawa komponen untuk program senjata nuklir.
Informasi itu langsung membuat militer AS bergerak. Menurut empat sumber yang mengetahui kejadian tersebut, militer AS sempat menyiapkan rencana untuk mencegat kapal tersebut. Dua sumber, sebagaimana dikutip CNN, Sabtu (19/9/2026), mengatakan personel militer bersenjata bahkan bersiap menaiki kapal, sementara pesawat militer AS sudah berada di udara, menurut salah satu sumber dan sumber lain yang mengetahui insiden tersebut.
Namun, tepat sebelum operasi dilaksanakan, pejabat AS melakukan pemeriksaan lebih mendalam terhadap laporan intelijen itu. Dari penelusuran tersebut terungkap bahwa laporan dibuat dengan bantuan kecerdasan buatan atau artificial intelligence (AI).
Lebih mengejutkan lagi, chatbot yang digunakan seorang analis dalam proses tersebut ternyata salah mengidentifikasi material yang dibawa kapal China.
Menurut salah satu sumber, laporan itu "sepenuhnya salah". Namun, sumber yang sama mengatakan kesalahan tersebut "hampir memulai perang".
Jika AS benar-benar menjalankan operasi terhadap kapal China, situasinya berpotensi berkembang menjadi konflik bersenjata antara dua negara dengan kekuatan militer terbesar di dunia.
Insiden ini terjadi ketika militer dan komunitas intelijen AS sedang gencar mengintegrasikan AI ke hampir seluruh lini pekerjaan mereka. Teknologi tersebut digunakan untuk menganalisis volume besar informasi intelijen mentah yang dikumpulkan AS, membantu menentukan target serangan, hingga pekerjaan yang lebih administratif seperti pengelolaan anggaran, logistik, dan rantai pasok.
Namun, kasus kapal China tersebut memperlihatkan risiko besar ketika teknologi yang masih relatif baru dan belum sepenuhnya dipahami digunakan untuk menentukan sasaran di tengah perang.
Para analis selama ini telah memperingatkan bahwa penggunaan AI dengan data yang buruk atau rusak dapat menghasilkan kesalahan perhitungan yang berujung pada bencana. Dalam situasi ekstrem, kesalahan semacam itu bisa membuat AS menembaki kapal China hanya karena informasi yang dihasilkan sistem ternyata keliru.
Dalam kasus ini, analis tersebut memasukkan sejumlah informasi intelijen mengenai manifest kapal ke sebuah chatbot. Informasi awal itu berasal dari US Special Operations Command Pacific yang berbasis di Hawaii.
Belum jelas apakah chatbot yang digunakan merupakan layanan komersial yang tersedia untuk publik atau produk yang dikembangkan khusus oleh pemerintah AS.
Seorang mantan pejabat senior AS yang memahami sistem AI yang digunakan analis militer dan intelijen mengatakan, "Alat-alat internal itu sebagian besar hanyalah salinan dari produk komersial yang dipoles agar terlihat lebih baik."
Chatbot tersebut kemudian menggabungkan informasi intelijen sumber terbuka dengan intelijen sinyal rahasia yang tersimpan dalam sistem pemerintah. Dari kombinasi itulah sistem menghasilkan kesimpulan mengenai material yang dibawa kapal.
Analis tersebut kemudian kembali menggunakan AI untuk menyusun hasil temuannya menjadi laporan intelijen dengan format standar. Laporan semacam ini biasanya dipercaya oleh para pejabat militer dan kemudian disebarluaskan ke pihak terkait.
Dorongan untuk mempercepat penggunaan AI di militer didasarkan pada anggapan bahwa teknologi tersebut dapat membantu mengambil keputusan di medan perang dengan lebih cepat. Misalnya, menentukan target yang akan diserang atau memutuskan aset militer mana yang harus dipindahkan ke lokasi tertentu.
Para pejabat AS juga menilai Washington tidak boleh tertinggal dalam pengembangan dan penerapan AI, terutama jika suatu hari harus menghadapi China atau negara lain yang mampu menggunakan teknologi tersebut untuk bergerak selangkah lebih cepat dari AS.
Pada Januari lalu, Menteri Pertahanan AS Pete Hegseth meluncurkan strategi bertajuk "Artificial Intelligence Acceleration Strategy" untuk mempercepat penggunaan AI di lingkungan militer.
"Kami akan membuka ruang bagi eksperimen, menghilangkan hambatan birokrasi, memusatkan investasi kami dan menunjukkan pendekatan pelaksanaan yang diperlukan untuk memastikan kami memimpin dalam AI militer," kata Hegseth dalam pidato saat mengumumkan strategi tersebut.
Strategi itu juga mendorong pemakaian AI secara luas di seluruh tubuh militer. Departemen Pertahanan diperintahkan menyediakan AI melalui sejumlah program dengan tujuan "mendemokratisasi eksperimen dan transformasi AI di seluruh Departemen dengan menempatkan model AI terkemuka dunia milik Amerika langsung ke tangan tiga juta personel sipil dan militer kami, pada seluruh tingkat klasifikasi," demikian bunyi memo yang mengumumkan strategi tersebut.
Namun, penerapan AI di tubuh pemerintahan AS berlangsung secara terdesentralisasi. Sejumlah pejabat AS yang mengetahui proses tersebut mengatakan berbagai bagian pemerintahan menggunakan alat yang berbeda, dengan perintah dan standar keamanan yang juga tidak seragam.
AS juga belum memiliki satu standar tunggal mengenai bagaimana informasi yang dihasilkan AI harus diverifikasi. Banyaknya sistem AI yang digunakan oleh berbagai bagian militer dan komunitas intelijen membuat tingkat keandalan serta kemampuan masing-masing sistem dapat berbeda jauh.
Selama beberapa pekan terakhir, para pembuat kebijakan di Washington memang tengah memperdebatkan risiko AI secara intensif. Perdebatan itu dipicu serangkaian peringatan dari para insinyur Silicon Valley dan CEO perusahaan teknologi mengenai kemungkinan AI berkembang di luar kendali manusia, dengan konsekuensi yang bahkan berpotensi mengancam peradaban.
Namun, insiden kapal China menunjukkan ancaman lain yang lebih dekat dan langsung. Bukan hanya soal AI yang suatu hari dapat lepas dari kendali manusia, melainkan manusia yang membuat keputusan fatal berdasarkan informasi keliru atau menyesatkan yang dihasilkan AI maupun sistem otomatis lainnya.
Sejumlah sumber mengatakan militer AS kini semakin cepat mengadopsi AI untuk membantu proses penentuan target. Bidang ini memiliki risiko kesalahan yang sangat besar karena keputusan yang keliru dapat menyebabkan korban jiwa.
"AI dalam penentuan target jelas sedang semakin banyak digunakan dan tidak ada panduan nyata mengenai bagaimana keberadaan manusia dalam proses tersebut akan mencegah jatuhnya korban sipil atau fratricide," kata sumber lain yang memahami kebijakan militer AS saat ini.
Fratricide merujuk pada insiden ketika pasukan secara tidak sengaja menyerang atau membunuh pihaknya sendiri.
Menurut salah satu sumber, fenomena "halusinasi" AI seperti yang terjadi dalam kasus ini bukanlah kejadian tunggal di komunitas intelijen AS sejak teknologi tersebut mulai menyebar di lingkungan pemerintahan.
Bahkan sejumlah pejabat intelijen senior yang secara umum mendukung penggunaan AI di militer mulai melihat persoalan lain. Teknologi tersebut dinilai menciptakan tekanan bagi analis untuk menghasilkan dan menyebarkan laporan intelijen dengan lebih cepat, sehingga membuka peluang terjadinya kesalahan.
Beberapa sumber juga mengatakan analis muda menjadi kelompok yang lebih rentan mempercayai hasil AI tanpa melakukan pemeriksaan kritis karena mereka lebih terbiasa menggunakan teknologi tersebut.
"AI memungkinkan Anda sampai pada ide buruk dengan lebih cepat," kata salah satu sumber.
(luc/luc)
[Gambas:Video CNBC]
