Apple dan Google Didesak Hapus Aplikasi “Nudify”, Diduga Raup Untung dari Deepfake Tanpa Izin

Teknologi AI memang gila banget dan perkembangannya sangat cepat, namun sayangnya tidak semua pemanfaatnya membawa akibat positif, salah satu nan belakangan ini semakin mengkhawatirkan adalah munculnya beragam aplikasi “nudity” ialah aplikasi berbasis AI nan bisa mengubah foto seseorang menjadi seolah-olah tanpa busana hanya dalam hitungan detik.

Nah lantaran dianggap memfasilitasi penyebaran deepfake intim tanpa persetujuan (non-consensual intimate deepfake), pemerintah Kota San Francisco sekarang mengambil langkah tegas dengan meminta Apple dan Google menghapus puluhan aplikasi tersebut dari App Store dan Google Play.

Tapi Apa itu Aplikasi Nudity?

Bagi nan belum familiar, aplikasi nudify merupakan jasa AI nan menggunakan teknologi image generation alias image manipulation untuk membikin gambar tiruan seseorang dalam kondisi bugil hanya berasas foto biasa.

Korbannya tentu bukan hanya public figur saja, namun siapapun nan mempunyai foto di media sosial berpotensi menjadi sasaran, lantaran itulah aplikasi semacam ini semakin sering dikaitkan dengan pelecehan seksual digital, pemerasan, hingga penyebaran konten intim tanpa persetujuan.

Terlalu Lama Dibiarkan Apple dan Google

Nah menurut surat resmi nan oleh City Attorney San Francisco, David Chiu, Apple dan Google sebenarnya sudah berulang kali diperingatkan mengenai keberadaan aplikasi-aplikasi tersebut.

Bahkan sejak tahun lalu, kedua perusahaan disebut telah mengetahui bahwa beberapa aplikasi di toko mereka telah menjual jasa pembuatan deepfake intim, memproses pembayaran untuk jasa tersebut dan tetap tersedia meskipun diduga melanggar norma California.

David Chiu apalagi menilai Apple dan Google ikut memperoleh untung dari keberadaan aplikasi tersebut.

Nah tentu kasus ini bukan sekedar persoalan etika saja, lantaran di California sana, sudah ada undang-undang nan melarang siapa pun nan secara sengaja membantu alias memfasilitasi pembuatan konten pornografi deepfake tanpa persetujuan korban.

Bahkan sejak tahun 2025, korban juga diberikan kewenangan untuk menggugat pihak ketiga nan dianggap ikut mempermudah penyebaran konten tersebut. Karena itu, jika Apple dan Google dianggap tetap membiarkan aplikasi tersebut beredar, keduanya berpotensi menghadapi tuntutan norma dan hukuman perdata.

Lalu Apa Tindakan Kedua Perusahaan Besar Tersebut?

Nah menanggapi surat tersebut, Apple dan Google akhirnya memberikan respon dimana Apple menyatakan bahwa aplikasi nudify sebenarnya memang dilarang masuk ke App Store, mereka juga mengatakan telah menghapus tiga aplikasi nan dimaksud, menutup akun developer mengenai dan memberikan peringatan kepada empat developer lain agar segera mematuhi kebijakan App Store.

Sementara itu, Google mengatakan bahwa lima aplikasi nan disebut dalam laporan juga telah ditangguhkan dari Google Play dan juga mereka menyatakan telah menangguhkan ratusan aplikasi serupa dan membatasi pencarian dengan kata kunci seperti nudity di Play Store.

Nah beberapa aplikasi nan sempat masuk dalam laporan Tech Transparency Project antara lain DreamFace, RemakeFace, AI Dress Up, hingga Best Body AI. Namun sebagian di antaranya sekarang telah dihapus alias ditangguhkan dari App Store maupun Google Play setelah mendapat sorotan.

Masalah nan Makin Besar di Era AI

Nah kasus ini tentu menunjukan bahwa perkembangan AI ini memang membawa tantangan baru nan tidak bisa dianggap sepele, jika sebelumnya teknologi deepfake lebih sering digunakan untuk membikin video tokoh publik, sekarang aplikasi nudify membikin siapa saja bisa menjadi korban hanya lantaran mempunyai foto nan diunggah ke internet.

Dan nan membikin situasi semakin rumit adalah aplikasi seperti ini sering dipasarkan layaknya aplikasi edit foto biasa, padahal dampaknya bisa sangat serius terhadap privasi dan keselamatan korban.

Terkait perihal ini tentu, secara umum, langkah dari San Francisco ini bisa menjadi salah satu tindakan norma terbesar terhadap pengedaran aplikasi AI nan digunakan untuk membikin deepfake intim tanpa persetujuan.

Meski Apple dan Google mengaku telah mulai menghapus aplikasi-aplikasi tersebut, kasus ini juga menjadi pengingat bahwa platform pengedaran aplikasi tidak hanya bekerja menyediakan tempat bagi developer, tetapi juga mempunyai tanggung jawab untuk memastikan teknologi AI tidak disalahgunakan demi untung finansial.

Nah gimana menurutmu guys? komen dibawah.

Via : Tech Crunch, TTP