AI Pornografi Bertebaran, IWF Sebut Bocil Jadi Target Utama
Jum'at, 18 Oktober 2024 - 20:25 WIB
loading...
A
A
A
Dalam periode ini, IWF menindaklanjuti 74 laporan berisi konten semacam itu, meningkat tajam dari 70 laporan dalam 12 bulan sebelumnya.
Yang lebih mengganggu adalah bahwa alat AI yang menciptakan gambar-gambar ini dilatih pada konten korban nyata, sehingga mempersulit upaya mengidentifikasi kasus asli yang memerlukan intervensi, menurut Derek Ray-Hill, kepala eksekutif sementara IWF.
“Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak akan hilang dan malah semakin parah,” kata surat kabar The Guardian mengutip pernyataannya.
Konten pelecehan tersebut beragam, mulai dari video deepfake yang tampak nyata hingga gambar anak-anak berpakaian yang telah diubah dan tidak senonoh.
Lebih dari separuh materi yang ditandai dihosting di server di Rusia dan Amerika Serikat, selain Jepang dan Belanda, menurut IWF.
Berita yang meresahkan ini muncul di tengah meningkatnya kritik terhadap aplikasi media sosial karena menawarkan tempat yang aman bagi para pelaku pelecehan dan pemerasan seksual.
Yang lebih mengganggu adalah bahwa alat AI yang menciptakan gambar-gambar ini dilatih pada konten korban nyata, sehingga mempersulit upaya mengidentifikasi kasus asli yang memerlukan intervensi, menurut Derek Ray-Hill, kepala eksekutif sementara IWF.
“Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak akan hilang dan malah semakin parah,” kata surat kabar The Guardian mengutip pernyataannya.
Konten pelecehan tersebut beragam, mulai dari video deepfake yang tampak nyata hingga gambar anak-anak berpakaian yang telah diubah dan tidak senonoh.
Lebih dari separuh materi yang ditandai dihosting di server di Rusia dan Amerika Serikat, selain Jepang dan Belanda, menurut IWF.
Berita yang meresahkan ini muncul di tengah meningkatnya kritik terhadap aplikasi media sosial karena menawarkan tempat yang aman bagi para pelaku pelecehan dan pemerasan seksual.
Lihat Juga :
