Percepatan AI tidak Terkendali Dapat Punahkan Manusia? Ini Pro Kontranya

Ilustrasi.(Magnific)

INDUSTRI kecerdasan buatan (AI) sekarang tengah berada di persimpangan jalan nan mengkhawatirkan. Di kembali kemajuan teknologi nan memukau, muncul suara-suara dari dalam koridor perusahaan AI terkemuka nan menyuarakan ketakutan mendalam. Jacob Coxon, seorang peneliti nan baru saja mengundurkan diri dari Anthropic, mengungkapkan bahwa para mahir di bagian ini merasa betul-betul ketakutan terhadap kecepatan perkembangan teknologi tersebut dan dampaknya bagi masa depan umat manusia.

Dalam wawancara dengan Laura Kuenssberg dari BBC, Coxon menyampaikan peringatan keras mengenai potensi AI nan tidak terkendali. Menurutnya, jika laju kemajuan saat ini tidak segera diperlambat, terdapat kemungkinan besar akibat fatal bagi keberlangsungan hidup manusia dalam waktu dekat.

Skenario Buruk: Dari Virus Mematikan hingga Peretasan Infrastruktur

Jacob Coxon, laki-laki berumur 27 tahun asal Inggris nan konsentrasi pada training model AI, menjelaskan bahwa ancaman nan dia maksud bukan sekadar fiksi ilmiah. Meskipun skenario konkret sering kali terdengar seperti narasi film, Coxon menekankan bahwa nan sudah dicapai AI saat ini pun bakal terdengar seperti fiksi di masa lalu.

Beberapa skenario ancaman nan dipaparkan Coxon meliputi:

• Agen AI Otonom: Kemampuan AI untuk meretas laboratorium medis guna memproduksi virus mematikan secara mandiri.
• Serangan Infrastruktur: Peretasan terhadap prasarana kritis dunia nan menjadi tumpuan hidup masyarakat dunia.
• Perilaku Tak Terduga: Coxon merujuk pada laporan OpenAI nan merinci gimana teknologi mereka melakukan tindakan peretasan terhadap platform Hugging Face secara otonom tanpa dorongan manusia.

Ketakutan ini juga didukung oleh Evan Hubinger, intelektual Anthropic lain, nan menyatakan melalui media sosial X bahwa dia percaya ada kesempatan lebih dari 10% AI dapat menyebabkan kepunahan manusia dalam dasawarsa mendatang.

Perpecahan di Silicon Valley: Antara Peringatan dan Skeptisisme

Pernyataan Coxon muncul di tengah gelombang kekhawatiran keamanan nan juga disuarakan oleh mantan bosnya, CEO Anthropic Dario Amodei. Amodei baru-baru ini menulis esai nan mendesak agar pengembangan AI diperlambat. Namun, tidak semua pihak di Silicon Valley sepakat dengan narasi hariakhir AI ini.

CEO Nvidia, Jensen Huang, secara tegas menolak klaim tersebut. Dalam konvensi nan dipandu Goldman Sachs, Huang menyebut pendapat bahwa AI bakal menjadi akhir dari kemanusiaan sebagai omong kosong belaka. Di sisi lain, Clement Delangue, CEO Hugging Face, juga mempertanyakan relevansi pendapat Coxon dengan mengibaratkan bertanya tentang akibat kepunahan AI kepada peneliti teknis seperti bertanya tentang perubahan suasana kepada teknisi AC.

Dilema Perlombaan Senjata Teknologi

Coxon beranggapan bahwa para pekerja di perusahaan AI terjebak dalam perlombaan nan mereka takuti sendiri. Mereka meminta izin lantaran merasa tidak bisa berakhir secara sepihak sementara pesaing terus melaju. Masalah ini semakin rumit lantaran koordinasi perlambatan kudu melibatkan raksasa teknologi global, termasuk perkembangan AI di Tiongkok.

Harapan di Tengah Ketakutan

Meskipun memberikan peringatan keras, Coxon tetap mempunyai optimisme. Ia menyatakan bahwa para peneliti AI sebenarnya sangat mau memandang sisi positif dari teknologi ini, seperti kemampuannya dalam memecahkan masalah penyakit dan meningkatkan kualitas hidup semua orang.

Namun, bagi Coxon dan rekan-rekannya nan khawatir, faedah tersebut tidak bakal berfaedah jika akibat eksistensialnya tidak dikelola dengan serius sejak sekarang. Saat ini, perdebatan mengenai apakah AI adalah penyelamat alias ancaman bagi umat manusia terus memanas, terutama dengan adanya bukti bahwa perusahaan-perusahaan besar mulai kesulitan mengendalikan teknologi nan mereka ciptakan sendiri. (BBC/I-2)