Artificial Intelligence, Perlindungan Konsumen, dan Keadilan di Kawasan ASEAN

Perlindungan konsumen saat ini, apakah sudah terlindungi? Saat ini tanpa disadari sebagian besar keputusan konsumsi masyarakat saat ini tidak lagi sepenuhnya lahir dari kehendak mereka sendiri. Produk nan muncul di layar telepon pintar, iklan nan tampil di media sosial, rekomendasi peralatan nan dianggap "sesuai kebutuhan", hingga nilai nan kudu dibayar konsumen semakin banyak ditentukan oleh algoritma kepintaran buatan alias artificial intelligence (AI).

Seorang konsumen di Indonesia dapat membeli peralatan dari penjual di Bangkok melalui platform nan berdomisili di Singapura, menggunakan jasa pembayaran dari Malaysia, sementara sistem rekomendasi produk dan penentuan nilai dikendalikan oleh algoritma nan dikembangkan di Amerika Serikat alias China.

Perdagangan digital telah menghapus pemisah geografis. Namun, pada saat nan sama, dia menghadirkan pemisah baru nan jauh lebih susah dipahami, ialah pemisah antara keputusan manusia dan keputusan mesin. Pertanyaannya, siapakah nan bertanggung jawab ketika algoritma merugikan konsumen?

Pertanyaan itu tidak lagi berkarakter futuristik. Ia telah menjadi persoalan nyata dalam kehidupan sehari-hari masyarakat ASEAN. Asia Tenggara saat ini merupakan salah satu pusat pertumbuhan ekonomi digital tercepat di dunia. Integrasi ekonomi digital melalui ASEAN Digital Economy Framework Agreement (DEFA) diproyeksikan menjadikan ASEAN sebagai salah satu kekuatan ekonomi digital dunia pada dasawarsa mendatang. Namun sejarah pembangunan selalu mengajarkan satu perihal krusial ialah pertumbuhan ekonomi nan tidak disertai perlindungan norma nan memadai nyaris selalu melahirkan ketimpangan baru.

Demikian pula dengan AI. Tanpa tata kelola nan baik, teknologi nan semestinya mempermudah kehidupan manusia justru berpotensi memperbesar ketimpangan antara perusahaan digital dan konsumen.

Ketimpangan di Era AI

Selama bertahun-tahun, norma perlindungan konsumen dibangun di atas dugaan adanya ketimpangan info antara penjual dan pembeli. Pelaku upaya mengetahui lebih banyak mengenai produk dibandingkan konsumennya. Di era AI, corak ketimpangan tersebut berubah secara fundamental.

Kini perusahaan digital tidak hanya mengetahui karakter produknya, tetapi juga mengetahui perilaku konsumennya secara sangat rinci. Mereka mengetahui apa nan dicari, apa nan disukai, kapan seseorang condong melakukan pembelian, apalagi kapan seseorang berada pada kondisi psikologis nan paling mudah dipengaruhi untuk melakukan transaksi.

Data pribadi telah menjadi minyak baru dalam ekonomi digital. Shoshana Zuboff menyebut kejadian ini sebagai surveillance capitalism, ialah praktik menjadikan pengalaman dan perilaku manusia sebagai bahan baku ekonomi untuk diprediksi, dianalisis, dan diperdagangkan. Dalam sistem seperti itu, konsumen tidak lagi hanya membeli peralatan dan jasa. Mereka secara berbarengan juga menjadi sumber info nan menghasilkan untung ekonomi bagi perusahaan teknologi.

Ironisnya, sebagian besar konsumen tidak mengetahui seberapa jauh info tersebut digunakan, diproses, dipindahkan lintas negara, apalagi diperjualbelikan. Ketimpangan info nan dulu terjadi antara produsen dan konsumen sekarang berubah menjadi ketimpangan algoritmik. Perusahaan mengetahui nyaris segala sesuatu mengenai konsumennya, sementara konsumen nyaris tidak mengetahui apa pun mengenai algoritma nan menentukan beragam keputusan krusial terhadap dirinya.

Salah satu tantangan terbesar penggunaan AI adalah munculnya diskriminasi algoritmik. Dua konsumen dapat memperoleh nilai berbeda untuk produk nan sama pada waktu nan sama hanya lantaran sistem memprediksi keahlian bayar nan berbeda. Seorang pengguna dapat memperoleh akses angsuran lebih sigap dibandingkan pengguna lain bukan lantaran keahlian ekonominya lebih baik, melainkan lantaran pola perilaku digitalnya dianggap lebih menguntungkan oleh sistem.

Diskriminasi semacam ini sering kali tidak terlihat lantaran tersembunyi di kembali kompleksitas teknologi. Tidak ada petugas nan menolak pengajuan konsumen secara langsung. Tidak ada pegawai nan secara definitif mengatakan seseorang tidak memenuhi syarat. nan ada hanyalah keputusan otomatis nan muncul di layar ialah pengajuan ditolak, transaksi dibatalkan, alias nilai berubah.

Algoritma menjadi pengadil nan tidak terlihat, tetapi mempunyai pengaruh nan sangat besar terhadap kehidupan ekonomi masyarakat. Persoalannya, algoritma bukan subjek hukum. Ia tidak dapat dipanggil ke pengadilan dan tidak dapat dimintai pertanggungjawaban.

Karena itu, tanggung jawab norma tidak boleh lenyap hanya lantaran keputusan dibuat oleh mesin. Pada akhirnya, tanggung jawab kudu tetap berada pada manusia dan korporasi nan merancang, menggunakan, dan memperoleh untung dari penggunaan teknologi tersebut.

Perdagangan Digital ASEAN

Karakter perdagangan digital ASEAN nan berkarakter lintas negara memperumit persoalan tersebut. Bayangkan seorang konsumen Indonesia membeli produk dari Thailand melalui platform di Singapura menggunakan sistem pembayaran Malaysia, sementara algoritma nan digunakan dikembangkan oleh perusahaan teknologi di luar ASEAN. Ketika terjadi sengketa, norma negara mana nan berlaku? Pengadilan mana nan berwenang? Siapa nan kudu bertanggung jawab?

Pertanyaan-pertanyaan itu menunjukkan bahwa perlindungan konsumen digital tidak lagi dapat diselesaikan hanya melalui pendekatan norma nasional. Integrasi ekonomi digital ASEAN memerlukan integrasi perlindungan norma nan sama kuatnya.

Selama ini perhatian area lebih banyak diarahkan pada penghapusan halangan perdagangan, kelancaran arus data, dan peningkatan investasi digital. Padahal integrasi ekonomi tanpa integrasi perlindungan konsumen berpotensi menciptakan ruang abu-abu nan justru dimanfaatkan untuk menghindari tanggung jawab hukum.

ASEAN memerlukan standar minimum berbareng mengenai transparansi algoritma, perlindungan info pribadi, akuntabilitas AI, dan sistem penyelesaian sengketa konsumen lintas negara. Berbagai organisasi internasional seperti OECD dan UNESCO memperkenalkan konsep human-centric AI, ialah pendekatan nan menempatkan manusia sebagai pusat dari seluruh pengembangan teknologi.

Prinsip ini sesungguhnya sederhana ialah teknologi kudu melayani manusia, bukan manusia nan menyesuaikan diri terhadap teknologi. Konsumen berkuasa mengetahui ketika mereka sedang berinteraksi dengan AI. Konsumen berkuasa memahami dasar pengambilan keputusan otomatis nan memengaruhi dirinya. Konsumen juga berkuasa meminta peninjauan kembali oleh manusia terhadap keputusan algoritmik nan berakibat signifikan terhadap kehidupannya.

Prinsip-prinsip tersebut sejalan dengan pendapat John F. Kennedy mengenai kewenangan dasar konsumen, ialah kewenangan atas keamanan, kewenangan memperoleh informasi, kewenangan memilih, dan kewenangan untuk didengar. Perbedaannya, andaikan pada masa lampau perlindungan tersebut diarahkan pada produk abnormal alias info nan menyesatkan, maka pada era AI perlindungan itu kudu diperluas hingga mencakup keputusan algoritmik.

John Rawls melalui teori justice as fairness mengingatkan bahwa keadilan menuntut perlindungan terhadap pihak nan paling rentan dalam suatu sistem sosial. Dalam ekonomi digital berbasis AI, pihak nan paling rentan itu adalah konsumen nan tidak memahami langkah kerja algoritma, tetapi kudu menerima seluruh akibat dari keputusan nan dihasilkannya. Negara tidak dapat bersikap netral dalam situasi seperti ini. Hukum kudu datang untuk menciptakan keseimbangan.

Perlindungan Konsumen di ASEAN

Indonesia sebagai negara ekonomi digital terbesar di ASEAN, mempunyai kesempatan besar menjadi pelopor tata kelola AI di kawasan. Namun kesempatan tersebut hanya bakal menjadi realita andaikan Indonesia tidak berakhir sebagai pasar bagi teknologi global, melainkan juga menjadi pembentuk standar norma dan etika penggunaan AI.

Revisi norma perlindungan konsumen perlu mulai mengakomodasi kewenangan atas penjelasan terhadap keputusan algoritmik (right to explanation), kewenangan atas peninjauan manusia (right to human review), serta tanggungjawab audit terhadap sistem AI berisiko tinggi.

Penguatan penerapan perlindungan info pribadi juga menjadi prasyarat krusial agar masyarakat tidak berubah menjadi sekadar sumber info bagi ekonomi digital global. Pengalaman Uni Eropa melalui EU AI Act menunjukkan bahwa izin bukanlah musuh inovasi. Sebaliknya, kepastian norma justru merupakan fondasi utama tumbuhnya kepercayaan publik terhadap teknologi baru.

Dan dalam ekonomi digital, kepercayaan adalah mata duit nan paling berharga. Keberhasilan ekonomi digital ASEAN tidak bakal ditentukan oleh seberapa sigap area ini mengangkat kepintaran buatan. Keberhasilannya justru bakal diukur dari seberapa efektif area ini memastikan bahwa kepintaran tersebut tetap bekerja untuk kepentingan manusia.

AI mungkin bisa menggantikan banyak proses pengambilan keputusan manusia. Namun terdapat satu perihal nan tidak boleh diserahkan kepada algoritma, ialah tanggung jawab moral dan norma untuk melindungi manusia itu sendiri. Sebab ukuran keberhasilan teknologi pada akhirnya bukanlah seberapa canggih mesin bekerja, melainkan seberapa aman, adil, dan terhormat manusia hidup berdampingan dengannya.

Di tengah ambisi ASEAN menjadi pusat ekonomi digital dunia, perlindungan konsumen tidak boleh ditempatkan di pinggir pembangunan teknologi. Ia kudu berada di jantungnya. Karena peradaban tidak pernah diukur dari kepintaran mesin nan sukses diciptakannya, melainkan dari kemampuannya memastikan bahwa manusia tetap menjadi tujuan utama dari setiap kemajuan teknologi.