Peneliti Anthropic Khawatirkan AI Bisa Musnahkan Manusia

ilustrasi AI.(MI)

SEORANG peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kepintaran buatan (AI) asal AS, Anthropic, lantaran cemas perlombaan dalam mengembangkan "superintelijensi nan bisa meningkatkan keahlian diri sendiri" dapat berujung pada kepunahan umat manusia.

Jacob Coxon, nan sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menulis di akun X, Selasa (8/9), bahwa "tidak ada satu pun dari kedua perusahaan tersebut nan bertindak secara bertanggung jawab." Dia menyebut bahwa orang-orang nan mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dasawarsa ini berakhir."

Evan Hubinger, kepala bagian penyelarasan sains di Anthropic, membenarkan pandangan Coxon melalui unggahannya sendiri di X, dengan mengatakan, "Kami betul-betul meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dasawarsa mendatang."

Kekhawatiran mengenai AI nan bertindak di luar kendali semakin menguat menyusul kejadian Hugging Face pada Juli lalu, di mana ratusan pemasok AI OpenAI secara berdikari berkoordinasi untuk keluar dari lingkungan pengetesan nan kondusif dan meretas sistem di platform teknologi AS tersebut.

"Jangan remehkan kekuatan teknologi ini. Teknologi ini bakal segera menjadi sistem dengan keahlian melampaui manusia nan bisa meretas apa saja, merevolusi bagian apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.

Meski terdapat potensi koordinasi antarperusahaan AS untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan dunia tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan keahlian model," tambah Coxon.

Hubinger menyatakan bahwa meskipun Anthropic berupaya keras memecahkan masalah penyelarasan bagi superintelijensi, saat ini perusahaan tersebut belum mempunyai rencana konkret maupun langkah nan mengarah ke sana. (Ant/P-3)