Trending, Bot Telegram Manipulasi Foto Deepfake Telanjang

Seiring dengan semakin mudahnya membuat dan semakin meluasnya deepfakes, para pembuat undang-undang dan perusahaan teknologi dianggap lambat menghentikan gelombang tersebut. Di seluruh AS, 23 negara bagian telah mengeluarkan undang-undang untuk mengatasi deepfakes non-konsensual, dan perusahaan teknologi telah memperkuat beberapa kebijakan.

Namun, aplikasi yang dapat membuat deepfakes eksplisit telah ditemukan di toko aplikasi Apple dan Google, deepfakes eksplisit Taylor Swift dibagikan secara luas di X pada bulan Januari, dan infrastruktur masuk Big Tech telah memungkinkan orang untuk dengan mudah membuat akun di situs web deepfake.

Kate Ruane, direktur proyek kebebasan berekspresi Pusat Demokrasi dan Teknologi mengatakan, sebagian besar platform teknologi utama sekarang memiliki kebijakan yang melarang distribusi gambar intim non-konsensual, dengan banyak yang terbesar menyetujui prinsip-prinsip untuk mengatasi deepfakes.

"Saya akan mengatakan bahwa sebenarnya tidak jelas apakah pembuatan atau distribusi gambar intim non-konsensual dilarang di platform tersebut," kata Ruane tentang syarat layanan Telegram, yang kurang rinci dibandingkan platform teknologi utama lainnya.

Pendekatan Telegram terhadap penghapusan konten berbahaya telah lama dikritik oleh kelompok-kelompok masyarakat sipil, dengan platform tersebut secara historis menampung scammer, kelompok sayap kanan ekstrem, dan konten terkait terorisme. Sejak CEO dan pendiri Telegram Pavel Durov ditangkap dan didakwa di Prancis pada bulan Agustus terkait dengan serangkaian pelanggaran potensial, Telegram telah mulai membuat beberapa perubahan pada syarat layanannya dan memberikan data kepada lembaga penegak hukum.