Wamenkomdigi: Teknologi Deepfake AI Tingkatkan Ancaman Penipuan Digital

, JAKARTA, – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kepintaran buatan (AI) melalui teknologi deepfake menjadi tantangan etis dan keamanan digital nan serius. Ia menekankan bahwa teknologi ini berpotensi besar meningkatkan ancaman penipuan digital nan semakin susah dikenali.

Teknologi deepfake memungkinkan pembuatan video, gambar, maupun bunyi tiruan nan sangat menyerupai aslinya. "Sekarang bunyi kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam corak deepfake video nan dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam aktivitas Indonesia Ethical AI Summit di Jakarta, Rabu.

Menurut Nezar, perkembangan kepintaran buatan saat ini berjalan sangat cepat, apalagi telah melampaui fase kepintaran buatan generatif (generative AI) menuju kepintaran buatan otonom (agentic AI) dan beragam teknologi baru lainnya. Perkembangan tersebut membawa faedah besar bagi beragam sektor, tetapi pada saat nan sama juga memunculkan risiko-risiko baru nan memerlukan perhatian serius.

Ancaman Realitas Sintetik dan Rendahnya Literasi

Dalam aspek keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan memanfaatkan teknologi deepfake. Menurutnya, hasil manipulasi berbasis AI sekarang telah berkembang menjadi apa nan disebut sebagai realitas sintetik (synthetic reality), ialah konten hasil rekayasa digital nan semakin susah dibedakan dari kenyataan.

Ia menilai rendahnya literasi masyarakat mengenai perkembangan AI membikin banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut. "Awamnya masyarakat kita tentang perkembangan AI ini membikin banyak nan terkecoh. Itu sebabnya scam saat ini luar biasa," ujarnya.

Pentingnya Pengawasan Manusia dan Etika Sejak Desain

Nezar juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan (human in the loop) pada pengembangan kepintaran buatan otonom nan mempunyai keahlian melakukan penalaran dan mengambil keputusan secara berdikari (decision making). Menurutnya, sejumlah master telah mengusulkan penerapan protokol nan lebih ketat agar keputusan-keputusan krusial tetap berada dalam pengawasan manusia.

"Banyak master mengusulkan agar dilakukan satu protokol nan cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.

Lebih lanjut, dia menilai pendekatan etika AI tidak lagi cukup berkarakter sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut. Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan kudu diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan (ethics by design).

Karena itu, Nezar mendorong para pengembang, pelaku industri, akademisi, dan organisasi pengguna AI untuk memperkuat tata kelola serta mitigasi akibat sejak tahap perencanaan. "Transparansi, akuntabilitas, keamanan, itu kudu datang di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.

Konten ini diolah dengan support AI.

sumber : antara