Trending, Bot Telegram Manipulasi Foto Deepfake Telanjang

JAKARTA - Kecerdasan buatan kerap disalahgunakan untuk memanipulasi foto atau video alias aksi deepfake . Hal ini pun merambah aplikasi Telegram.

Pada awal 2020, ahli deepfake Henry Ajder menemukan salah satu bot Telegram pertama yang menghasilkan lebih dari 100.000 foto anak-anak. Temuan ini menandai momen aksi serupa yang makin masif serta meluas. Sejak itu, aksi deepfakes menjadi lebih umum, lebih merusak, dan mudah diproduksi.

Laman Wired melansir, Jumat (18/10/2024) komunitas Telegram yang terlibat dengan konten eksplisit non-konsensual mengidentifikasi 50 bot yang mengklaim dapat membuat foto atau video eksplisit dari orang dengan hanya beberapa klik. Bot-bot ini bervariasi kemampuannya, mulai dari menghilangkan pakaian dari area obyek foto hingga menggambarkan obyek dalam berbagai tindakan seksual.

Puluhan bot tersebut mencantumkan lebih dari 4 juta pengguna bulanan secara akumulatif. Sebanyak dua bot mencantumkan lebih dari 400.000 pengguna bulanan masing-masing, sementara 14 lainnya mencantumkan lebih dari 100.000 anggota.

Temuan ini menggambarkan seberapa luas alat pembuatan deepfake eksplisit telah menjadi dan memperkuat tempat Telegram sebagai salah satu lokasi paling menonjol. Namun, snapshot, yang sebagian besar mencakup bot berbahasa Inggris, kemungkinan merupakan sebagian kecil dari keseluruhan bot deepfake di Telegram.

"Kita berbicara tentang peningkatan yang signifikan, urutan besarnya dalam jumlah orang yang jelas-jelas secara aktif menggunakan dan membuat jenis konten ini," kata Ajder tentang bot Telegram.



Ia mengkhawatirkan bot ini merusak kehidupan dan menciptakan skenario yang sangat mengerikan terutama bagi perempuan.

Konten deepfake non-konsensual eksplisit, yang sering disebut sebagai penyalahgunaan gambar intim non-konsensual (NCII) pertama kali muncul pada akhir 2017, dengan kemajuan AI generatif. Di seluruh internet, sejumlah situs web dengan pencarian "nudify" dan "undress" berada di samping alat yang lebih canggih dan bot Telegram, dan digunakan untuk menargetkan ribuan wanita dan gadis di seluruh dunia.

Dalam survei terbaru, dilaporkan 40 persen siswa AS mengetahui deepfakes yang terkait dengan sekolah K-12 mereka dalam setahun terakhir.