OpenAI Setop Sebagian Pengembangan AI Astra: Bisa Hack Sistem Tanpa Diminta

OpenAI menghentikan sementara sejumlah aktivitas pengembangan model AI jagoan barunya berjulukan Astra. Berdasarkan pertimbangan awal, model ini berpotensi mempunyai keahlian siber nan ofensif di level critical. Ini adalah level akibat tertinggi dalam kerangka keamanan (Preparedness Framework) milik OpenAI.

Menurut arti OpenAI, sebuah model dianggap mencapai level "Kritis" di bagian siber jika bisa secara berdikari tanpa kombinasi tangan manusia menemukan dan mengeksploitasi celah keamanan hingga merancang dan menjalankan strategi serangan siber baru dari awal hingga akhir.

Sebagai langkah kehati-hatian, perusahaan memperketat kontrol keamanan dan menghentikan aktivitas internal Astra, ditambah model AI ini belum memenuhi standar pengamanan nan sesuai.

Sebagai respons, OpenAI sudah melakukan sejumlah tindakan yakni:

• Mengisolasi lingkungan pengetesan Astra dengan akses jaringan dan perangkat nan lebih dibatasi.

• Pemantauan (monitoring) nan lebih ketat, termasuk meninjau alur penalaran (chain of thought) model selama training dan evaluasi.

• Memperkuat enkripsi untuk berat (weights) model

• Menghentikan sementara pekerjaan internal atas Astra nan belum memenuhi standar keamanan baru

• Menggandeng lembaga pemerintah AS dan sejumlah organisasi keamanan AI independen untuk ikut menguji keahlian Astra

OpenAI sempat jadi sorotan sejak bulan lalu. Agen AI milik mereka sempat 'kabur' dari sandbox pengetesan terisolasi untuk mendapatkan akses internet mandiri. Bukan hanya membobol platform Hugging Face, tapi juga sempat menyusup ke akun milik pengguna perusahaan cloud lain, Modal Labs, nan berbasis di New York.

Insiden itu melibatkan dua model, pertama adalah GPT-5.6 Sol dan satu model pra-rilis nan belum diumumkan namanya. Kedua model tersebut awalnya diuji dalam skenario keamanan siber berjulukan ExploitGym dengan sejumlah pagar pengaman sengaja dinonaktifkan agar keahlian aslinya bisa diukur secara murni.

Alih-alih tetap di lingkungan tertutup, model-model itu menemukan celah zero-day pada software toolkit, lampau memanfaatkannya untuk memperoleh akses internet dan akhirnya membobol sistem produksi Hugging Face.

OpenAI menegaskan bahwa Agen AI nan membobol kedua platform itu tidak berbasis model Astra. Alasannya, sampai saat ini, Astra tetap dalam tahap pengembangan dan belum dirilis ke publik, menurut laporan The Guardian. Penundaan pengembangan Model AI Astra ini sudah diketahui oleh Pemerintah AS.

Insiden pembobolan beberapa waktu lampau menjadi salah satu pemicu utama kenapa OpenAI sekarang bergerak jauh lebih hati-hati sebelum merilis model barunya nan lebih canggih, termasuk Astra.

OpenAI mau membangun model AI Astra dengan keahlian siber tinggi. Tujuannya tak lain adalah sebagai perangkat bantu tim keamanan siber untuk menemukan dan menambal celah lebih dulu sebelum dieksploitasi pihak tak bertanggung jawab.