Drone Otonom AI Diduga Bunuh Warga Sipil, Kasus Pertama dalam Sejarah?

Ilustrasi.(Magnific)

INSIDEN tragis di Zaporizhzhia, Ukraina, memicu perdebatan dunia mengenai etika penggunaan kepintaran buatan (AI) dalam peperangan. Tiga penduduk sipil dilaporkan tewas setelah drone Rusia meledak. Drone tersebut diduga memilih targetnya sendiri secara otonom tanpa menerima perintah selama penerbangan.

Berdasarkan investigasi nan diterbitkan oleh The New York Times, perangkat ini diyakini sebagai drone Rusia pertama nan penargetan otonom penuhnya dikaitkan langsung dengan kematian penduduk sipil dalam perang ini. Serangan terjadi pada 6 Juli di dekat stasiun pengisian bahan bakar di Zaporizhzhia, kota di tenggara Ukraina nan terus menjadi sasaran serangan Rusia.

Drone tersebut menghantam tembok dan meledak sebelum mencapai sasaran utamanya, tetapi serpihannya mengenai orang-orang di letak kejadian. Korban tewas diidentifikasi sebagai Tetiana Bubynets, 19, seorang mahasiswi akuntansi, serta dua pria, Oleksiy Svirin, 41, dan Roman Karpiy, 48.

Analisis Puing: Drone tanpa Pilot Jarak Jauh

Penyidik Ukraina menemukan komponen nan tidak biasa dalam reruntuhan drone jenis Molniya tersebut. Para mahir menyatakan bahwa drone itu tidak dikendalikan oleh operator jarak jauh saat serangan terjadi. Pesawat nirawak ini bisa mengikuti rutenya sendiri, menganalisis visual, dan memutuskan letak serangan secara mandiri.

Kecurigaan ini diperkuat dengan tidak ditemukan antena penerima perintah radio pada sisa-sisa pesawat. Selain itu, ditemukan modul Nvidia Jetson Orin, komputer kompak nan bisa menjalankan tugas AI langsung di dalam mesin. Modul ini memungkinkan pemrosesan gambar dan identifikasi objek tanpa perlu mengirim info ke server jarak jauh.

Data nan ditemukan menunjukkan drone menggunakan tengara untuk menentukan lokasi, lampau mencari objek nan sesuai dengan kriteria nan dimasukkan ke dalam perangkat lunaknya, seperti tangki propana nan diduga menjadi sasaran awal.

Melampaui Kendali Otomatis Biasa

Selama ini, Rusia dan Ukraina menggunakan drone dengan otonomi mil terakhir (last-mile autonomy), yaitu operator menentukan sasaran dan AI hanya menyelesaikan lintasan akhir. Namun, kasus Zaporizhzhia berbeda. Operator diduga hanya memilih area umum, sementara sistem drone membikin keputusan akhir mengenai sasaran spesifik nan bakal dihantam.

Kateryna Bondar, peneliti di Wadhwani AI Center (CSIS), menyebut ini sebagai kasus terdokumentasi pertama di Ukraina ialah penduduk sipil tewas oleh drone Rusia nan menggunakan penargetan otonom penuh.

Risiko Teknologi nan Mengkhawatirkan

Penggunaan sistem nan bisa memilih sasaran tanpa persetujuan manusia menimbulkan pertanyaan norma dan moral nan mendalam: siapa nan bertanggung jawab ketika perangkat lunak melakukan kesalahan alias salah membaca gambar di area sipil?

Komite Internasional Palang Merah (ICRC) telah lama menyerukan patokan internasional nan mengikat secara norma untuk senjata otonom. Keuntungan militer dari teknologi ini memang nyata--drone menjadi kebal terhadap gangguan sinyal (jamming) lantaran tidak memerlukan komunikasi radio--tetapi akibat terhadap kemanusiaan, seperti nan terjadi di Zaporizhzhia, menjadi peringatan keras bagi dunia.

Hingga saat ini, Rusia belum memberikan komentar resmi mengenai temuan interogator Ukraina maupun laporan mengenai penggunaan drone otonom dalam serangan tersebut. (Espresso/I-2)