AS dan China Hampir Perang Gegara Chatbot AI Keliru Beri Laporan Intelijen

Militer Amerika Serikat diduga nyaris melakukan tindakan penggeledahan terhadap sebuah kapal berbendera China di area Timur Tengah, berbekal info intelijen nan keliru dari sebuah perangkat kepintaran buatan (AI). Beruntung, rencana AS 'geruduk' kapal China itu batal di detik-detik terakhir.

Berdasarkan laporan CNN nan dikutip Gizmodo, keputusan melancarkan operasi tersebut diduga berasas info nan keliru akibat fatamorgana AI, nan menyebut kapal itu membawa komponen senjata nuklir. Seorang sumber anonim menyebut kejadian ini "hampir memicu perang".

Kesalahan intelijen ini diduga bermulai dari seorang analis di komando operasi unik (special operations command) nan menggunakan chatbot dalam tugasnya. Chatbot itu keliru mengidentifikasi muatan kapal, dan tampaknya "meyakini" bahwa muatan itu bisa dipakai untuk membikin senjata nuklir.

Chatbot AI itu apalagi mengeklaim kapal China itu tengah mengirim komponen untuk program nuklir Iran.

Bayang-Bayang AI di Balik Serangan Mematikan ke Sekolah di Iran

Kasus kapal China ini memunculkan kekhawatiran nan lebih besar. Bukan pertama kalinya AI dikaitkan dengan kesalahan fatal militer AS dalam perang melawan Iran. Kasus paling disorot adalah serangan rudal ke Sekolah Dasar Shajareh Tayyebeh di Minab, provinsi Hormozgan, pada 28 Februari 2026.

Berdasarkan investigasi mendalam Bloomberg, saat itu dua rudal Tomahawk menghantam gedung dan area sekolah. Serangan itu menewaskan lebih dari 150 orang, termasuk sedikitnya 123 anak-anak. Publik menganggap militer AS melakukan serangan salah sasaran paling mematikan pada abad ke-21 dari sisi jumlah korban anak.

Berdasarkan penuturan saksi nan dihimpun Bloomberg dari golongan pembela HAM dan organisasi pemantau Airwars, para pembimbing sempat memindahkan murid-murid dari laman bermain ke ruang salat untuk berlindung setelah rudal pertama jatuh, namun beberapa menit kemudian rudal kedua menghantam dan sebagian genting runtuh hanya menyisakan sedikit anak nan selamat di ruang tersebut.

Apa peran AI dalam tragedi ini?

Bloomberg melaporkan, proses "kill chain" alias rantai keputusan penargetan sebelum perang biasanya melibatkan verifikasi berlapis oleh analis manusia. Dalam konteks ini, keterlibatan manusia jadi lebih ringkas berkah support Maven Smart System (platform intelijen dan penargetan buatan Palantir Technologies).

Maven dibangun di bawah perjanjian Pentagon senilai USD 1,3 miliar. Maven membantu mengatasi masalah 'banjir' info dengan menggabungkan gambaran satelit, umpan drone, info radar, dan sinyal intelijen ke dalam satu interface. Data itu jadi bekal untuk mengklasifikasikan target, merekomendasikan sistem senjata, dan menyusun paket serangan nyaris secara real-time.

Menurut orang-orang nan terlibat dalam investigasi Bloomberg, sekolah di Iran itu masuk ke dalam 'radar' Maven berbareng daftar sasaran potensial lain dengan status nan belum diperbarui sebagai akomodasi IRGC (Korps Garda Revolusi Islam Iran). Hasilnya, sekolah anak-anak itu diklasifikasikan sebagai salah satu sasaran rekomendasi untuk hari pertama serangan.

Gedung sekolah itu dibangun nyaris satu dasawarsa lampau di atas lahan nan sebelumnya digunakan unit angkatan laut IRGC, dan Pentagon mengkategorikannya sebagai pedoman militer beberapa tahun sebelumnya. Status ini tidak pernah diperbarui sebelum serangan Februari.

New York Times, sebagaimana dikutip Bloomberg, apalagi melaporkan bahwa petugas penargetan menggunakan gambaran satelit nan datanya belum diperbarui selama tujuh tahun dan tidak menunjukkan keberadaan sekolah di letak tersebut.

Penyebab pasti kesalahan ini tetap menjadi perdebatan serius di internal pemerintah AS sendiri. Arms Control Association (organisasi non-partisan pemerhati kebijakan pengendalian penggunaan senjata) menilai, Komando Pusat AS (CENTCOM) menyimpulkan peta intelijen kandas menunjukkan akomodasi itu sudah lama beranjak kegunaan menjadi gedung sipil, dan letak tersebut masuk ke daftar sasaran hasil AI tanpa pengawasan manusia.

Palantir sendiri membantah tudingan bahwa sistemnya memberi info keliru. Juru bicara perusahaan menyatakan kepada Bloomberg tidak ada bukti bahwa perangkat lunak mereka menjadi penyebab kesalahan dalam serangan di Minab.

Dua kejadian baik kapal China maupun sekolah di Iran punya pola nan sama: sistem AI militer AS nan dirancang untuk mempercepat pengambilan keputusan di medan perang, justru berisiko menghilangkan lapisan verifikasi manusia nan krusial.