OpenAI Beberkan Kasus-kasus AI Bisa Mengendalikan Manusia

LONDON - OpenAI baru saja merilis enam laporan nan merinci contoh-contoh model kepintaran buatan nan menyembunyikan kesalahan, menghasilkan petunjuk nan tidak sah, alias melakukan tindakan nan tidak diminta oleh pengguna.

Perusahaan ini juga sedang membangun sistem untuk menyelidiki dan secara berkala menerbitkan laporan tentang "penyimpangan" ini, di tengah tantangan nan semakin besar bagi industri dalam memantau sistem AI nan semakin otonom.

Pada tanggal 16 September, OpenAI secara berbarengan menerbitkan enam laporan nan merinci perilaku mencurigakan nan terdeteksi selama training dan evaluasi. Kejadian paling awal nan tercatat berasal dari Oktober 2025.

Insiden tersebut terutama melibatkan model penelitian internal alias jenis nan belum dirilis. OpenAI mencatat bahwa ini adalah kasus terisolasi dan tidak boleh digunakan untuk menyimpulkan bahwa perilaku menyimpang tersebar luas di seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi komplit dari semua kejadian nan diketahui alias sedang berlangsung.

OpenAI menyatakan bakal secara berkala menerbitkan contoh-contoh sistem kepintaran buatan (AI) nan menunjukkan perilaku nan tidak terduga alias tidak sah, daripada menunggu untuk mengumpulkan banyak kejadian ke dalam satu laporan.

Perusahaan tersebut juga memperkenalkan kerangka kerja baru untuk mendeteksi, menyelidiki, dan menangani secara publik kasus-kasus "perilaku menyimpang"—kondisi di mana perilaku alias tujuan suatu model tidak lagi selaras dengan niat, aturan, dan nilai-nilai manusia.

Tulis pedoman Anda sendiri untuk membebaskan diri dari batasan.
Dalam satu contoh nan patut diperhatikan, sebuah model penelitian nan belum dirilis dari family Astra menyisipkan petunjuk "peretasan" ke dalam ringkasan kontekstualnya sendiri.