Hot : Gemini Tidak Sengaja Hack 3 Perusahaan Saat Lakukan Pengujian

Ada berita cukup menarik dari bumi AI dan cybersecurity, guys, dimana Gemini milik Google rupanya sempat mengakses dan menembus sistem milik tiga perusahaan nyata ketika sedang menjalani cybersecurity test.

Baca Juga : Kenapa Para CEO AI Mulai Minta Pengembangan AI Diperlambat?

Nah kejadian ini berjalan pada Mei 2026 dalam pengetesan nan dilakukan oleh perusahaan pertimbangan keamanan AI berjulukan Irregular. Dan nan menarik, Gemini semestinya hanya bekerja di dalam lingkungan simulasi dan tidak mempunyai akses ke internet.

Gemini Tidak Sengaja Keluar dari Lingkungan Tes

Nah dalam pengetesan tersebut, Gemini diberikan tugas cybersecurity untuk mencari info tertentu dari sebuah perusahaan fiktif, tetapi masalahnya, lingkungan pengetesan tersebut rupanya secara tidak sengaja memberikan Gemini akses ke internet. Akibatnya, ketika mencari info nan dibutuhkan, Gemini menemukan info dari perusahaan sungguhan dan menganggap sistem tersebut tetap merupakan bagian dari pengujian.

Dalam satu kasus, Gemini apalagi mencoba menebak password hingga sukses mendapatkan akses ke sistem nan dilindungi. Sementara dalam dua kasus lainnya, Gemini menemukan credential nan tersedia di repository publik dan menggunakannya untuk masuk ke sistem perusahaan nyata.

Tapi Gemini Berhenti Sendiri

Nah, bagian nan cukup menarik adalah apa nan terjadi setelah Gemini menyadari bahwa sistem nan diaksesnya rupanya milik perusahaan sungguhan, menurut Google, dalam ketiga kasus tersebut Gemini menghentikan aktivitasnya setelah mengetahui bahwa sasaran nan diakses bukan bagian dari lingkungan simulasi.

Google juga mengatakan tidak ada kerusakan nan ditimbulkan dan tiga perusahaan nan terdampak telah diberitahu mengenai kejadian tersebut.

Baca Juga : Saat Putin Voting Online, Muncul Watermark “Activate Windows” di PC nan Dipakainya

Jadi ini bukan kasus dimana Gemini sengaja diperintahkan untuk menyerang tiga perusahaan tersebut, namun masalahnya lebih kepada AI nan diberikan keahlian cybersecurity, kemudian secara tidak sengaja mendapatkan akses ke bumi nyata di luar scope pengujian.

Tetap Jadi Masalah Serius

Nah meskipun memang tidak ada kerusakan nan dilaporkan, kejadian ini tetap menarik perhatian lantaran menunjukkan seberapa jauh AI agent dapat bertindak ketika diberikan keahlian untuk melakukan tugas cybersecurity secara autonomous.

Karena bayangkan saja guys, Gemini awalnya hanya diminta melakukan pengetesan terhadap sistem fiktif alias tidak nyata, namun lantaran adanya akses internet nan semestinya tidak tersedia, model tersebut bisa mencari informasi, menemukan credential, mencoba login, hingga sukses masuk ke sistem perusahaan sungguhan.

Nah Google sendiri mengatakan kejadian tersebut menjadi argumen untuk memperbaiki proses pengetesan berbareng Irregular.

Namun pada akhirnya kasus ini menunjukkan bahwa dalam pengembangan AI agent, sandbox, network isolation, scope limitation dan monitoring tetap sangat penting. Bahkan Microsoft sempat menerbitkan arsip mengenai langkah agar AI tidak lepas kendali.

Baca Juga : Microsoft Terbitkan Panduan Khusus Agar AI Tidak Lepas Kendali, Apa Isinya?

Hal tersebut lantaran ketika sebuah AI sudah bisa mengambil keputusan dan menjalankan beragam tindakan secara autonomous, satu kesalahan konfigurasi saja bisa membikin aktivitas nan semestinya terjadi di lingkungan simulasi malah menyentuh sistem nyata.

Nah gimana menurutmu mengenai perihal ini? komen dibawah guys.

Via : Reuters, The Guardian