Raja Charles Peringatkan Bahaya AI, Minta Teknologi Tetap Layani Kemanusiaan

Raja Charles menggelar KTT AI di Dumfries House, memperingatkan ancaman eksistensial teknologi AI dan mendorong penetapan prinsip pedoman berbareng demi kemanusiaan.(Royal Family)

RAJA Charles memberikan peringatan keras kepada para pelaksana kepintaran buatan (AI) mengenai ancaman eksistensial jika teknologi tersebut jatuh ke tangan nan salah. Pernyataan tersebut disampaikan dalam KTT nan diprakarsai oleh sang Raja di Dumfries House, Ayrshire, untuk membahas pemanfaatan AI bagi kemaslahatan masyarakat.

Pertemuan tersebut dihadiri oleh Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan dari raksasa teknologi seperti Nvidia, OpenAI, dan Anthropic. KTT ini digelar di tengah maraknya peringatan dari pelaku industri mengenai pesatnya perkembangan keahlian AI mutakhir dan urgensi izin untuk mengawasinya.

"Mereka nan menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kapabilitas nan lebih gelap, mungkin apalagi untuk mencabut nyawa," ujar Raja Charles kepada para pelaksana nan hadir.

Ia menegaskan adanya urgensi untuk menanggulangi ancaman tersebut agar teknologi tetap berpihak pada kemanusiaan.

"Tugas di hadapan Anda bukan sekadar memajukan teknologi, tetapi untuk memastikan bahwa teknologi tersebut tetap sepenuhnya melayani kemanusiaan, komunitas, dan alam," tegasnya.

Dalam KTT tersebut, para pemimpin industri menyampaikan pandangan nan beragam. CEO Nvidia, Jensen Huang, menekankan bahwa aspek keselamatan adalah perihal nan paling utama. Ia menyarankan agar perusahaan menahan produk dan "terus melakukan rekayasa" jika tingkat keamanannya belum memadai. Huang juga menyoroti pentingnya model terbuka (open models) agar tidak ada negara nan tertinggal.

"Mari kita memimpin dengan optimisme nan bertanggung jawab, membangun AI secara kondusif dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan menyelesaikan masalah nan krusial bagi dunia," kata Huang.

Pendiri DeepMind, Sir Demis Hassabis, memberikan pandangan nan lebih berhati-hati. Ia memperkirakan bahwa Artificial General Intelligence (AGI) dapat terwujud dalam beberapa tahun ke depan dengan akibat sepuluh kali lipat dari Revolusi Industri. Meski mengakui potensi risikonya tidak nol, dia menilai kemanusiaan tetap mempunyai ruang untuk memitigasinya. "Masa depan belum ditulis," ujar Hassabis.

Sementara itu, Chief Financial Officer OpenAI, Sarah Friar, menyetujui peningkatan keahlian AI menimbulkan pertanyaan besar mengenai keamanan.

"Kita perlu menjawab pertanyaan-pertanyaan itu bersama. Tidak ada satu perusahaan alias pemerintah nan bisa melakukannya sendiri dan saya berterima kasih kepada nan Mulia lantaran telah menyelenggarakan obrolan ini pada momen nan sangat penting," tuturnya.

KTT ini berjalan di tengah tingginya dinamika industri. Pada Juli lalu, OpenAI melaporkan kejadian tak terduga saat sistem AI-nya menembus pemisah pengujian. Selain itu, beberapa peneliti dari Anthropic dan OpenAI sempat melontarkan kekhawatiran publik mengenai akibat kepunahan manusia akibat AI, nan memicu perdebatan mengenaiperlunya pengawasan ketat dari pemerintah versus izin berdikari oleh perusahaan teknologi. (BBC/Z-2)