Anthropic Peringatkan Kehilangan Kendali atas AI yang Berkembang Sendiri terkait Claude

Ilustrasi.(Magnific)

DUNIA teknologi sedang berada di periode perubahan paradigma nan fundamental. Anthropic, salah satu perusahaan rintisan AI terkemuka, baru saja mengeluarkan peringatan serius mengenai akibat hilangnya kendali manusia atas sistem kepintaran buatan (AI).

Peringatan ittu muncul seiring dengan temuan bahwa model AI mereka, Claude, sekarang mengambil alih sebagian besar proses pengembangannya sendiri.

Lonceng Peringatan dari Anthropic: AI Menulis Kodenya Sendiri

Berdasarkan laporan terbaru dari Anthropic, terdapat lonjakan drastis dalam otonomi pengembangan perangkat lunak oleh AI. Jika pada Februari tahun lampau Claude hanya menulis kurang dari 10 persen kodenya sendiri, nomor tersebut sekarang meroket hingga lebih dari 80 persen. Fenomena ini menandakan bahwa AI tidak lagi sekadar perangkat bantu, melainkan kontributor utama dalam perkembangan teknisnya sendiri.

Marina Favaro dan Jack Clark dari Anthropic menyatakan dalam unggahan blog resmi mereka bahwa tren ini mengarah pada sistem AI nan bisa merancang dan mengembangkan penerusnya secara berdikari sepenuhnya. Kondisi ini dikenal dalam istilah teknis sebagai recursive self-improvement atau peningkatan diri secara rekursif.

Peluang Besar vs Risiko Eksistensial

Anthropic mengakui bahwa AI nan bisa membangun dirinya sendiri adalah pencapaian besar dalam sejarah teknologi. Hal ini berpotensi membawa faedah luar biasa bagi sains, jasa kesehatan, dan beragam sektor lain. Namun, di sisi lain, keahlian ini membawa akibat nan belum pernah dihadapi.

Berikut komparasi antara potensi faedah dan akibat nan diidentifikasi:

Mendesak Perlambatan Pengembangan

Menghadapi kecepatan perkembangan nan mengkhawatirkan ini, Anthropic menyarankan agar industri mempertimbangkan untuk memperlambat pengembangan teknologi AI garis depan (frontier AI). Tujuannya memberikan waktu bagi para peneliti dan kreator kebijakan untuk memahami implikasi serta membangun sistem pengamanan nan memadai.

Namun, Anthropic menekankan bahwa jarak alias perlambatan ini memerlukan konsensus dunia nan susah dicapai. Hal ini membutuhkan:

• Kesepakatan antar laboratorium AI besar di beragam negara.
• Mekanisme verifikasi nan memastikan semua pihak mematuhi jarak tersebut.
• Kerja sama politik di tengah persaingan geopolitik nan sengit.

Pihak Anthropic menyatakan bahwa bumi pernah membangun rezim verifikasi untuk teknologi kompleks lain (seperti nuklir), tetapi proses tersebut menyantap waktu puluhan tahun. "Kita tidak mempunyai waktu selama itu," tegas mereka dalam pernyataan resminya.

Langkah Selanjutnya

Anthropic berencana untuk bekerja sama dengan kreator kebijakan dan peneliti dalam beberapa bulan mendatang untuk bersiap menghadapi kehadiran sistem AI nan bisa memperbaiki diri secara mandiri. Meskipun seruan serupa pernah dilakukan pada tahun 2023 melalui Future of Life Institute, hingga saat ini belum ada jarak umum nan sukses diterapkan dalam industri AI global.

Kini, dengan info bahwa Claude sudah mendominasi penulisan kodenya sendiri, obrolan mengenai keamanan AI bukan lagi sekadar fiksi ilmiah, melainkan kebutuhan mendesak bagi masa depan peradaban manusia. (The Independent/I-2)