Belajar dari Krisis Deepfake Korea: Saat AI Menjadi Alat Pelecehan Massal

Dalam beberapa tahun terakhir, perkembangan kepintaran buatan (AI) telah melahirkan kejadian nan semakin mengkhawatirkan: deepfake.

Teknologi ini memungkinkan manipulasi wajah seseorang ke dalam video lain secara sangat realistis, termasuk ke dalam konten seksual. Apa nan sebelumnya dianggap sekadar penelitian digital sekarang berkembang menjadi corak baru kekerasan berbasis kelamin nan susah dikendalikan.

Kasus di Korea Selatan menjadi salah satu contoh paling mencolok. Pada tahun 2024, negara tersebut mengalami lonjakan signifikan dalam kasus deepfake pornografi, nan apalagi melibatkan pelajar dan mahasiswa.

Laporan Security Hero tahun 2024 mengungkap kebenaran mengerikan: Korea Selatan menyumbang 53% korban deepfake porno di seluruh dunia. Bahkan, info menunjukkan sekitar 7,6% orang di sana pernah terlibat dalam pembuatan alias penyebaran konten terlarangan tersebut.

Ironisnya, banyak korban merupakan wanita muda nan fotonya diambil dari media sosial, lampau dimanipulasi menjadi konten seksual tanpa persetujuan. Fenomena ini tidak hanya memicu kemarahan publik, tetapi juga mendorong munculnya beragam aktivitas sosial, petisi, dan tuntutan terhadap pemerintah untuk bertindak lebih tegas.

Menariknya, perubahan respons di Korea Selatan tidak terjadi secara instan. Pada awalnya, praktik manipulasi gambar seperti ini sering dianggap sebagai lelucon alias sekadar “editan iseng”. Namun, seiring meningkatnya jumlah korban dan akibat psikologis nan ditimbulkan, masyarakat mulai melihat deepfake sebagai corak kekerasan nan nyata dan serius.

Kesadaran kolektif ini kemudian berubah menjadi tekanan publik nan masif dan meningkat secara signifikan, termasuk melalui 21 petisi resmi nan diajukan ke parlemen dengan nyaris 490.000 tanda tangan. Aktivisme digital juga memainkan peran penting; golongan seperti Project ReSET apalagi menyusup ke grup-grup di Telegram nan kerap menjadi “ruang gelap” penyebaran konten untuk mengumpulkan bukti dan mengungkap jaringan pelaku.

Keseriusan kasus ini juga tecermin dari respons pemerintah. Presiden Korea Selatan, Yoon Suk Yeol, menegaskan bahwa kejahatan deepfake merupakan tindakan pidana sebagai ancaman serius nan mengeksploitasi teknologi dan ditangani secara tegas oleh negara. Pernyataan ini menunjukkan bahwa rumor deepfake telah melampaui ranah perseorangan dan berkembang menjadi perhatian nasional nan mendesak, hingga akhirnya ditetapkan sebagai krisis nasional.

Dari perspektif gender, kejadian ini menunjukkan bahwa teknologi digital tidak selalu netral. Sebagian besar korban deepfake seksual adalah perempuan, sementara banyak pelaku didorong oleh motivasi misoginis, seperti kemauan untuk merendahkan alias mengontrol wanita secara simbolik.

Hal ini memperlihatkan bahwa ketidaksetaraan kelamin tidak lenyap di era digital, tetapi justru menemukan corak baru nan lebih cair dan susah dikendalikan. Deepfake, dalam perihal ini, bukan hanya soal teknologi, melainkan juga sebagai manifestasi dari kejahatan berbasis kelamin nan terus beradaptasi dengan perkembangan zaman.

Respons pemerintah Korea Selatan pun akhirnya berkembang seiring dengan meningkatnya kesadaran publik. Regulasi diperketat, abdi negara penegak norma diberi kewenangan lebih besar, dan apalagi aktivitas seperti menyimpan alias menonton konten deepfake ilegal dapat dikenakan hukuman hukum. Langkah ini menunjukkan bahwa negara dapat beradaptasi terhadap ancaman baru, meskipun sering kali kudu didorong terlebih dulu oleh tekanan masyarakat.

Namun demikian, tantangan deepfake tidak berakhir pada pemisah negara. Penyebaran konten sering kali terjadi melalui platform global, seperti Telegram, dengan server yang berada di luar yurisdiksi nasional. Kondisi ini menunjukkan bahwa meskipun suatu negara telah bertindak cepat, efektivitasnya tetap terbatas tanpa adanya kerja sama lintas negara dan keterlibatan perusahaan teknologi.

Fenomena di Korea Selatan ini kudu menjadi refleksi bagi Indonesia. Meskipun kasus deepfake di tanah air belum mendapat perhatian sebesar di Korea, indikasi kemunculannya mulai terlihat di kalangan anak muda. Tantangannya bukan hanya terletak pada aspek regulasi, melainkan juga pada kesadaran masyarakat nan sering kali tetap menganggap praktik ini sebagai intermezo semata.

Oleh lantaran itu, pelajaran utama dari Korea Selatan bukan hanya tentang gimana negara merespons, melainkan juga gimana masyarakat membentuk pemahaman terhadap suatu masalah. Tanpa adanya kesadaran kolektif, teknologi nan berpotensi merugikan bakal terus berkembang tanpa kontrol nan memadai.

Pada akhirnya, deepfake AI bukan sekadar penemuan teknologi, melainkan juga gambaran dari gimana kekuasaan bekerja dalam ruang digital. Ia menunjukkan bahwa pemisah antara realitas dan manipulasi semakin kabur, sekaligus membuka ruang baru bagi terjadinya kejahatan berbasis gender.

Teknologi nan semestinya mempermudah kehidupan justru dapat menjadi perangkat nan mempercepat dan memperluas bentuk-bentuk kekerasan. Oleh lantaran itu, diperlukan tidak hanya izin nan tegas, tetapi juga kesadaran publik bahwa praktik deepfake—khususnya nan berkarakter seksual—merupakan bagian dari kejahatan nan nyata dan kudu ditangani secara serius.