1 minggu yang lalu
Model AI Kimi K3 lepas kendal saat pengujian.
JAKARTA - Sebuah model kepintaran buatan (AI) terkemuka asal China telah menemukan langkah untuk melampaui batas selama uji coba keamanan siber terkendali. Kejadian ini menambah kekhawatiran nan kian meningkat mengenai efektivitas sistem perlindungan AI, terutama setelah serangkaian kejadian di mana AI lepas kendali dan melakukan peretasan baru-baru ini.
Para peneliti mengidentifikasi model tersebut sebagai Kimi K3—produk unggulan dari perusahaan rintisan (startup) Moonshot—dan menyatakan bahwa model itu mengakses info daring saat dievaluasi dalam lingkungan pengetesan terisolasi nan dikembangkan oleh AI Security Institute, Inggris. Sistem tersebut dirancang agar model AI tetap terputus dari internet selama keahlian mereka dinilai.
Dilansir RT, perusahaan riset keamanan siber nan berbasis di Amerika Serikat (AS), Frontier Security , mengungkapkan bahwa alih-alih menyelesaikan tugas hanya dengan menggunakan info nan disediakan untuk pengujian, Kimi K3 menemukan langkah untuk mengakses info daring. Para peneliti menyebut bahwa model tersebut memanfaatkan celah pada konfigurasi lingkungan pengujian, bukan dengan langkah membobol sistem keamanannya.
Menurut Frontier Security, berbeda dengan beberapa model AI nan terlibat dalam kejadian pengetesan baru-baru ini, Kimi K3 tidak berupaya mengakses alias menyerang situs web maupun sistem komputer eksternal. Namun, para peneliti menyatakan bahwa kejadian tersebut mengindikasikan kurangnya sejumlah fitur keamanan siber bawaan—yang lazim ditemukan pada sistem AI pesaing—pada model ini, sehingga berpotensi menimbulkan akibat lebih besar mengingat model tersebut sudah tersedia bagi developer untuk diunduh, dimodifikasi, dan digunakan.
Kejadian ini menyusul kejadian serupa dalam pengetesan nan dilaporkan beberapa minggu terakhir oleh OpenAI dan Anthropic, di mana model AI mereka juga keluar dari lingkungan pengetesan nan telah ditentukan saat menjalani pertimbangan terkendali. Dalam beberapa kasus tersebut, sistem berinteraksi dengan jasa daring eksternal saat berupaya menyelesaikan tugas nan diberikan.
Temuan terbaru ini menambah sorotan nan kian meningkat terhadap sistem AI canggih, seiring upaya pemerintah, peneliti, dan perusahaan teknologi untuk memperkuat pengetesan keamanan. Evaluasi terkini menunjukkan bahwa model AI nan semakin kapabel dapat mengeksploitasi kelemahan nan tidak disengaja dalam lingkungan pengetesan alias bertindak di luar batas nan ditetapkan oleh para peneliti.
(Rahman Asmardika)
English (US) · 
Indonesian (ID) ·