Anthropic Rilis Claude Fable 5: Fitur Keamanan Ketat Picu Kontroversi

Ilustrasi.(Magnific)

ANTHROPIC akhirnya memberikan akses publik terhadap model generasi terbarunya, tetapi langkah ini justru memicu gelombang protes. Model nan dinamakan Claude Fable 5 tersebut datang dengan sistem keamanan nan sangat ketat, memicu perdebatan sengit mengenai pihak nan berkuasa mengendalikan kapabilitas kepintaran buatan (AI) nan dianggap berbahaya.

Claude Fable 5 merupakan pembaruan dari model Mythos, sistem nan sebelumnya dianggap terlalu rawan oleh Anthropic untuk dirilis secara luas. Model Mythos sempat membikin pejabat pemerintah dan master keamanan siber cemas lantaran kemampuannya menemukan kerentanan perangkat lunak nan tidak diketahui secara global.

Sistem Keamanan nan Dianggap Berlebihan

Fable 5 dilengkapi dengan pembatasan luas nan menurut Anthropic bermaksud melumpuhkan kemampuannya dalam membantu aktivitas berbahaya. Ketika pengguna menyentuh topik sensitif seperti senjata biologis alias keamanan siber, Fable bakal memunculkan notifikasi dan mengalihkan percakapan ke model lama nan kurang mumpuni.

Namun, para developer dan peneliti merasa frustrasi lantaran sistem ini juga membatasi topik-topik nan dianggap tidak berbahaya. Beberapa keluhan nan muncul antara lain:

• Penolakan menjawab pertanyaan dasar tentang anatomi seluler (seperti kegunaan mitokondria).
• Pemblokiran obrolan mengenai matematika, biologi, dan kimia dasar.
• Degradasi kualitas respons mengenai pengembangan AI tingkat tinggi tanpa pemberitahuan transparan.

"Saya apalagi tidak bisa mengucapkan kata 'kanker' alias sekadar menyapa 'halo'. Bagi saya, ini adalah skenario mimpi jelek di mana satu perusahaan dapat memutuskan pertanyaan apa nan boleh kita ajukan," ujar Derya Unutmaz, peneliti imunologi di Jackson Laboratory.

Permintaan Maaf dan Transparansi Anthropic

Menanggapi kritik tersebut, Anthropic mengakui ada kesalahan dalam menyeimbangkan antara keamanan dan kegunaan. Perusahaan menyatakan bahwa awalnya mereka merasa perlu bersikap terlalu konservatif untuk menghindari tokoh jahat melakukan riset berisiko tinggi.

"Kami membikin pertukaran (trade-off) nan salah dan kami meminta maaf lantaran tidak mendapatkan keseimbangan nan tepat," tulis Anthropic dalam pernyataan resminya. Perusahaan berjanji bakal membikin notifikasi keamanan lebih transparan dan berencana menyediakan model kelas Mythos tanpa pembatasan ketat unik bagi organisasi sains dan biologi untuk mempercepat riset medis.

Persaingan Ketat dengan OpenAI

Langkah Anthropic ini menunjukkan dilema nan dihadapi perusahaan dalam menyeimbangkan kepentingan komersial dan tujuan keamanan. Anthropic saat ini sedang bersaing ketat dengan OpenAI (pencipta ChatGPT) untuk menarik pengguna korporat dan minat investor, terutama menjelang penawaran saham perdana (IPO) nan diprediksi terjadi pada musim gugur ini.

CEO Anthropic, Dario Amodei, secara konsisten menyuarakan kekhawatiran tentang akibat AI, mulai dari serangan siber hingga mesin nan lepas dari kendali manusia. Di sisi lain, para kritikus beranggapan bahwa narasi ancaman AI sering kali digunakan sebagai strategi pemasaran untuk menghalang pesaing mini dan pengganti sumber terbuka (open-source).

Meskipun penuh kontroversi, Claude Fable 5 terbukti jauh lebih kuat dari generasi sebelumnya. Dalam demonstrasi, model ini bisa mengodekan klon fungsional dari video game terkenal secara otonom, menunjukkan potensi besar di kembali sistem keamanannya nan ketat. (Wall Street Journal/I-2)