Dilema Agentic AI di Indonesia: Adopsi Cepat, Akuntabilitas Masih Lemah

Ilustrasi(magnific)

PEMANFAATAN kepintaran artifisial (AI) di beragam organisasi di Indonesia sekarang tengah memasuki babak baru. Teknologi ini tidak lagi sekadar menjadi perangkat bantu kerja, melainkan telah beralih bentuk menjadi agentic AI, sistem otonom nan bisa merencanakan, mengambil keputusan, hingga bertindak atas nama organisasi.

Badan Riset dan Inovasi Nasional (BRIN) menilai pergeseran ini membawa kesempatan besar bagi efisiensi nasional. Namun, di kembali potensi tersebut, terdapat tantangan serius mengenai pengembangan nan adaptif dan bertanggung jawab.

Temuan terbaru dari riset Sumsub berjudul "APAC State of Digital Trust: AI Governance Benchmark" menunjukkan adanya kesenjangan nan mengkhawatirkan antara mengambil teknologi dan keahlian pengawasan.

Fenomena Accountability Asymmetry

Sumsub, prasarana kepercayaan berbasis AI, mengungkapkan bahwa mengambil AI di Indonesia melaju jauh lebih sigap dibandingkan keahlian organisasi dalam menyediakan bukti keputusan nan dapat diverifikasi. Fenomena ini disebut sebagai "Accountability Asymmetry".

Berdasarkan survei terhadap 720 ahli senior di sembilan negara Asia-Pasifik (APAC), termasuk Indonesia, ditemukan info nan kontradiktif. Sebanyak 96% organisasi di Indonesia merasa percaya dapat menjelaskan keputusan AI mereka. Namun, faktanya hanya 34% nan betul-betul menyimpan rekam jejak keputusan secara utuh dan antimanipulasi.

Berikut adalah poin-poin kunci temuan riset Sumsub mengenai perilaku organisasi di Indonesia terhadap AI:

Tekanan Regulasi dan Standar Minimum

Kesenjangan tata kelola ini semakin mendesak untuk dibenahi seiring dengan meningkatnya tekanan regulasi. Otoritas Jasa Keuangan (OJK) telah menetapkan standar minimum melalui Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia. Panduan ini mencakup seluruh siklus hidup AI, mulai dari manajemen akibat hingga proses audit.

Di tingkat nasional, pemerintah juga tengah menyiapkan dua Peraturan Presiden mengenai Peta Jalan AI Nasional dan Etika AI nan sekarang sedang menunggu pengesahan Presiden. Tantangan bagi organisasi saat ini adalah menerjemahkan izin tersebut ke dalam praktik operasional sehari-hari tanpa menghalang inovasi.

Sumsub Agentic AI Council: Mencari Solusi Lintas Sektor

Untuk menjawab tantangan akuntabilitas ini, Sumsub meluncurkan Sumsub Agentic AI Council di wilayah APAC. Forum ini mempertemukan master dari sektor kebijakan, teknologi, akademik, hingga industri untuk menyusun kerangka kerja praktis nan berpijak pada tiga pilar utama:

• Adopt: Eksplorasi pemanfaatan AI nan berakibat pada ekonomi digital, pencegahan fraud, dan efisiensi.
• Build: Membangun fondasi teknis seperti identitas agen, kredensial terverifikasi, dan keterlacakan (traceability).
• Govern: Menyusun kebijakan dan sistem akuntabilitas nan memperjelas pembagian tanggung jawab manusia atas tindakan sistem AI.

"Organisasi di Indonesia memandang potensi AI nan sangat besar, tetapi adopsinya perlu dibarengi keahlian untuk menunjukkan gimana AI itu dipakai dan siapa nan bertanggung jawab," ujar Penny Chai, Vice President APAC Sumsub. Ia menekankan pentingnya prasarana kepercayaan seperti framework Know Your Agent nan mengaitkan identitas pemasok AI dengan manusia nan terverifikasi.

Senada dengan perihal tersebut, Jason Chan, APAC Government Relations Lead Sumsub, menambahkan bahwa keahlian pengawasan kudu tumbuh selaras dengan kecepatan adopsi. Council ini diharapkan menjadi wadah berbagi perspektif pandang untuk menghadapi tantangan nyata di lapangan.

Sumsub berencana mengumumkan para founding advisor Council menjelang pertemuan perdana pada kuartal I 2027. Kelompok kerja pertama ini nantinya bakal konsentrasi pada agentic commerce, di mana pemasok AI bertindak secara otonom mewakili kepentingan konsumen dan pelaku bisnis. (Z-1)