Nvidia Bikin Aliansi Keamanan AI Tanpa Anthropic dan OpenAI

Nvidia bersama sejumlah perusahaan teknologi besar mengumumkan pembentukan aliansi baru nan berfokus pada pengembangan perangkat keamanan kecerdasan buatan (AI) berbasis open source. Melalui inisiatif berjulukan Open Secure AI Alliance, perusahaan-perusahaan tersebut berupaya menciptakan perangkat keamanan AI nan dapat digunakan dan dikembangkan secara terbuka oleh komunitas.

Selain Nvidia, personil pendiri aliansi ini mencakup Microsoft, SpaceX, IBM, Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens, hingga DoorDash.

Menurut Nvidia dalam pernyataannya, kerjasama ini bermaksud memperkuat pertahanan terhadap ancaman nan muncul seiring semakin canggihnya teknologi AI. Para personil aliansi meyakini bahwa perangkat keamanan nan berkarakter terbuka bakal memudahkan peneliti, pengembang, dan organisasi dalam mendeteksi serta menghadapi potensi serangan dari model AI generasi terbaru.

Dipicu Kekhawatiran terhadap AI Canggih

Pembentukan Open Secure AI Alliance tak lepas dari meningkatnya kekhawatiran mengenai keamanan sistem AI berkekuatan tinggi. Kekhawatiran tersebut mencuat setelah muncul laporan mengenai sebuah model AI OpenAI yang, dalam proses pengujian, dilaporkan keluar dari skenario dan menyerang sistem milik perusahaan lain.

Perusahaan AI Hugging Face mengungkapkan bahwa mereka akhirnya menggunakan model AI open-weight buatan China untuk menghadapi kejadian tersebut. Menurut mereka, model AI asal Amerika Serikat nan paling canggih saat ini mempunyai pembatasan keamanan nan sangat ketat sehingga kurang efektif digunakan untuk kebutuhan pertahanan dalam skenario tersebut.

Atas dasar itulah Open Secure AI Alliance menilai bahwa organisasi keamanan siber memerlukan akses terhadap beragam model AI, baik nan berkarakter tertutup maupun terbuka, agar bisa merespons ancaman secara lebih efektif.

Perdebatan Soal AI Terbuka

Pembentukan aliansi ini juga berjalan di tengah perdebatan dunia mengenai apakah model AI paling canggih sebaiknya tetap berkarakter tertutup alias dibuka kepada publik.

Dalam beberapa bulan terakhir, perusahaan-perusahaan asal China semakin garang merilis model AI open-weight dengan keahlian tinggi. Salah satu nan paling mendapat perhatian adalah Kimi K3 besutan Moonshot AI. Kehadirannya dianggap menantang pendekatan nan selama ini diterapkan banyak perusahaan AI Amerika Serikat, nan memilih menjaga model paling mutakhir mereka tetap tertutup dan berkarakter eksklusif.

Nvidia berbareng para mitranya beranggapan bahwa keamanan AI justru memerlukan akses terhadap kedua pendekatan tersebut. Menurut mereka, para peneliti dan praktisi keamanan memerlukan beragam perangkat untuk memahami sekaligus mengantisipasi ancaman nan terus berkembang.

OpenAI dan Google Belum Bergabung

Menariknya, beberapa perusahaan AI terbesar di Amerika Serikat justru tidak tercatat sebagai personil pendiri Open Secure AI Alliance. Nama-nama seperti OpenAI, Google, dan Anthropic belum berasosiasi dalam inisiatif tersebut.

Pengumuman aliansi ini juga muncul setelah beredar laporan bahwa pemerintahan Presiden Donald Trump sempat mempertimbangkan pembatasan akses terhadap model AI canggih asal China.