Aplikasi AI Pembuat Video Pornografi Berkeliaran Muncul di App Store

MENLO PARK - Appledikenal dengan proses peninjauan aplikasi nan ketat sebelum mengizinkannya muncul di App Store iPhone, nan membantu mencegah aplikasi nan melanggar kebijakan alias mengandung malware.

Namun, surat kabarThe Independentmenemukan sejumlah aplikasi di App Store nan menggunakan kepintaran buatan untuk mengubah potret seseorang menjadi video pornografi, apalagi membikin video nan menggambarkan pemerkosaan alias pelecehan seksual dengan tingkat realisme nan sangat tinggi.

Surat kabarThe Independentmelaporkan bahwa aplikasi-aplikasi ini mencantumkan puluhan skenario bagi AI untuk membikin konten pornografi dari gambar nan disediakan oleh pengguna.

Aplikasi-aplikasi tersebut memungkinkan pengguna untuk membikin beberapa konten secara cuma-cuma sebelum kemudian dikenakan biaya.

Yang perlu diperhatikan, aplikasi-aplikasi ini tidak hanya muncul di App Store. Situs teknologiWiredjuga menemukan beberapa aplikasi nan membikin konten pornografi dan menayangkan iklan di platform media sosial Meta seperti FB dan Instagram. Ini berfaedah aplikasi-aplikasi ini juga telah melewati proses moderasi konten iklan Meta.

Apple telah menghapus aplikasi nan menghasilkan pornografi menggunakan AI setelah menerima laporan dariThe Independent, nan menyatakan bahwa aplikasi tersebut melanggar kebijakan perusahaan.

“Aplikasi nan ‘menampilkan ketelanjangan’ melanggar kebijakan perusahaan. Kami telah secara proaktif menolak dan menghapus banyak aplikasi ini, termasuk nan dilaporkan oleh pengguna,” kata perwakilan Apple.

Kebijakan App Store menyatakan bahwa aplikasi tidak boleh menyertakan “konten nan menyinggung, tidak sensitif, menyedihkan, alias sengaja menjijikkan alias sekadar menakutkan.” Namun, Apple belum menjelaskan kenapa konten pornografi nan dihasilkan AI lolos dari proses peninjauan perusahaan dan muncul di App Store.