China Pastikan Perkembangan AI Semakin Lepas Kendali dan Membahayakan

BEIJING - Peringatan dari para peneliti di perusahaan pengembangan kepintaran buatan (AI) Amerika, Anthropic, tentang akibat bahwa model nan semakin canggih dapat lepas kendali dari manusia.

Para kreator kebijakan di sana juga telah mulai mengembangkan kerangka kerja dan langkah-langkah untuk mengatasi akibat serupa.

Amerika Serikat dan Tiongkok saat ini merupakan dua penggerak utama pengembangan teknologi AI canggih dan penerapannya secara global.

Di tengah meningkatnya perbedaan pendapat antara kedua negara mengenai kebijakan AI dan praktik industri masing-masing, isu-isu ini diperkirakan bakal menjadi inti dari pembicaraan bilateral nan bakal berjalan pada akhir September.

Terlepas dari persaingan nan semakin ketat untuk mengembangkan sistem AI, kerangka norma dan pernyataan dari pejabat Tiongkok menunjukkan bahwa Beijing memandang akibat AI canggih nan melampaui keahlian pengawasan manusia nan efektif sebagai masalah serius nan memerlukan kesiapan.

Pada tanggal 13 September, Menteri Keamanan Negara Tiongkok Chen Yixin menulis di situs web sebuah instansi beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan akibat serius bagi prasarana info krusial Tiongkok. Ia menyerukan penguatan komprehensif terhadap langkah-langkah keamanan AI.

Para developer AI Tiongkok baru-baru ini mempromosikan penggunaan model berbobot terbuka, sebagian lantaran tim keamanan siber dapat menguji, memodifikasi, dan menerapkan model-model ini untuk tujuan pertahanan.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka nan dikembangkan oleh perusahaan Tiongkok Z.AI, untuk menganalisis intrusi bulan Juli nan melibatkan pemasok AI "di luar kendali" dari OpenAI. Keputusan ini diambil setelah model-model AS nan lebih terkontrol terbukti kurang efektif dalam forensik digital.

Namun, para mahir juga memperingatkan tentang potensi akibat model berbobot terbuka, lantaran model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan nan memadai.