Trending, Bot Telegram Manipulasi Foto Deepfake Telanjang

Bot Telegram yang diidentifikasi oleh Wired didukung oleh 25 saluran Telegram. Saluran Telegram memberi tahu orang tentang fitur baru yang disediakan oleh bot dan penawaran khusus untuk token yang dapat dibeli untuk mengoperasikannya.

Setelah menghubungi Telegram dengan pertanyaan tentang apakah perusahaan tersebut mengizinkan pembuatan konten deepfake di platformnya, perusahaan tersebut menghapus 75 bot dan saluran. Perusahaan tidak menanggapi serangkaian pertanyaan atau mengomentari alasan di balik penghapusan saluran tersebut.

Bot tadi pada dasarnya berupa aplikasi kecil di dalam aplikasi Telegram. Para pemilik saluran menyiarkan pesan ke jumlah pelanggan yang tidak terbatas. Satu grup diisi hingga 200.000 orang yang dapat berinteraksi. Pengembang membuat bot yang membuat orang bermain kuis trivia, menerjemahkan pesan, membuat peringatan, atau memulai rapat Zoom.

Banyak dari bot deepfake memiliki nama dan deskripsi bot yang mengacu pada ketelanjangan dan menghilangkan pakaian perempuan. "Saya dapat melakukan apa saja yang Anda inginkan tentang wajah atau pakaian foto yang Anda berikan kepada saya," tulis pencipta salah satu bot.

Baca Juga: FBI Temukan Modus Penipuan Baru, Gunakan Teknik Deepfake

Hampir semua bot mengharuskan orang membeli token untuk membuat gambar, dan tidak jelas apakah mereka beroperasi dengan cara yang mereka klaim. Seiring dengan berkembangnya ekosistem di sekitar generasi deepfake dalam beberapa tahun terakhir, hal ini telah menjadi sumber pendapatan yang berpotensi menguntungkan bagi mereka yang membuat situs web, aplikasi, dan bot.

Begitu banyak orang yang mencoba menggunakan situs web "nudify" sehingga penjahat dunia maya Rusia, sebagaimana dilaporkan oleh 404Media, telah mulai membuat situs web palsu untuk menginfeksi orang dengan malware.

Sementara bot Telegram pertama, yang diidentifikasi beberapa tahun lalu, relatif sederhana, teknologi yang diperlukan untuk membuat gambar yang dihasilkan AI lebih realistis telah meningkat—dan beberapa bot bersembunyi di depan mata.

Satu bot dengan lebih dari 300.000 pengguna bulanan tidak merujuk pada materi eksplisit apapun dalam nama atau halaman arahannya. Namun, setelah pengguna mengklik untuk menggunakan bot, ia mengklaim memiliki lebih dari 40 opsi untuk gambar, banyak di antaranya bersifat sangat seksual.

"Jenis gambar palsu ini dapat membahayakan kesehatan dan kesejahteraan seseorang dengan menyebabkan trauma psikologis dan perasaan terhina, takut, malu, dan malu," kata Emma Pickering, kepala penyalahgunaan dan pemberdayaan ekonomi yang difasilitasi teknologi di Refuge, organisasi pelecehan domestik terbesar di Inggris.