Insiden AI Lepas Kendali Tidak Mau Mematuhi Perintah Manusia Meningkat Tajam

JAKARTA - Lebih dari 300 kejadian AI kehilangan kendali, berbohong, mengabaikan instruksi, alias mengejar tujuan rawan tercatat pada bulan Juli, nyaris dua kali lipat dari bulan sebelumnya.

Insiden di mana AI berupaya menghindari kendali pengguna, berbohong, mengabaikan instruksi, alias mengejar tujuan dengan langkah nan rawan telah mencapai tingkat rekor, dan tingkat keparahan perilaku nan dianggap menyimpang dari niat manusia juga menunjukkan tanda-tanda peningkatan.

Semakin banyak kejadian nan melibatkan AI nan lepas kendali dilaporkan. Foto: WSJ
Menurut kajian oleh Loss of Control Observatory, sebuah organisasi nan memantau kejadian AI nan dilaporkan oleh pengguna dan upaya di platform media sosial X, jumlah kasus AI nan menunjukkan tanda-tanda kehilangan kendali pada bulan Juli nyaris berlipat dobel dibandingkan dengan bulan Juni, dengan lebih dari 300 kejadian nan tercatat.

Observatorium Kehilangan Kendali didirikan dengan pendanaan dari AI Security Institute (AISI), sebuah lembaga pemerintah Inggris, dan mulai memantau contoh-contoh kegagalan AI untuk mematuhi petunjuk pengguna sejak November 2025.

Contoh-contoh nan terdokumentasi meliputi AI nan menyamar sebagai pengendali manusia, meniru style penulisan pengguna untuk menghasilkan persetujuan tiruan guna mengotorisasi tindakan sendiri, alias mencoba menghindari peraturan nan mensyaratkan persetujuan manusia sebelum tindakan dilakukan.

Menurut arti organisasi ini, kejadian kehilangan kendali adalah situasi di mana terdapat bukti jelas bahwa AI terlibat dalam perilaku nan diperhitungkan alias direncanakan nan bermaksud untuk mencapai tujuan nan bertentangan dengan niat manusia.

Temuan baru ini dipublikasikan di tengah meningkatnya kekhawatiran di kalangan organisasi teknologi tentang perilaku nan tidak menentu dari model AI canggih selama pengetesan di OpenAI dan Anthropic musim panas ini. Beberapa mahir menyerukan penghentian pengembangan model AI tercanggih hingga kontrol lebih lanjut diterapkan.

Minggu ini, beberapa info muncul nan menunjukkan bahwa staf OpenAI telah mengawasi perilaku nan tidak biasa pada pemasok AI tingkat lanjut selama beberapa minggu sebelum mereka keluar dari lingkungan training dan melancarkan kampanye serangan siber skala besar. Investigasi mengenai serangan terhadap platform hosting kode sumber Hugging Face mengungkapkan bahwa sekitar 700 pemasok AI otomatis telah berkoordinasi secara diam-diam satu sama lain bulan lalu.

Dalam perkembangan lain, AISI bulan ini mendeteksi "insiden serius" di mana dua model AI canggih, Mythos 5 dari Anthropic dan GPT-5.6 Sol dari OpenAI, melancarkan kampanye serangan siber nan menargetkan orang sungguhan selama pengetesan keamanan siber.