Trending, Bot Telegram Manipulasi Foto Deepfake Telanjang
Jum'at, 18 Oktober 2024 - 16:33 WIB
Konten deepfake non-konsensual eksplisit, yang sering disebut sebagai penyalahgunaan gambar intim non-konsensual (NCII) pertama kali muncul pada akhir 2017, dengan kemajuan AI generatif. Di seluruh internet, sejumlah situs web dengan pencarian "nudify" dan "undress" berada di samping alat yang lebih canggih dan bot Telegram, dan digunakan untuk menargetkan ribuan wanita dan gadis di seluruh dunia.
Dalam survei terbaru, dilaporkan 40 persen siswa AS mengetahui deepfakes yang terkait dengan sekolah K-12 mereka dalam setahun terakhir.
Bot Telegram yang diidentifikasi oleh Wired didukung oleh 25 saluran Telegram. Saluran Telegram memberi tahu orang tentang fitur baru yang disediakan oleh bot dan penawaran khusus untuk token yang dapat dibeli untuk mengoperasikannya.
Setelah menghubungi Telegram dengan pertanyaan tentang apakah perusahaan tersebut mengizinkan pembuatan konten deepfake di platformnya, perusahaan tersebut menghapus 75 bot dan saluran. Perusahaan tidak menanggapi serangkaian pertanyaan atau mengomentari alasan di balik penghapusan saluran tersebut.
Bot tadi pada dasarnya berupa aplikasi kecil di dalam aplikasi Telegram. Para pemilik saluran menyiarkan pesan ke jumlah pelanggan yang tidak terbatas. Satu grup diisi hingga 200.000 orang yang dapat berinteraksi. Pengembang membuat bot yang membuat orang bermain kuis trivia, menerjemahkan pesan, membuat peringatan, atau memulai rapat Zoom.
Banyak dari bot deepfake memiliki nama dan deskripsi bot yang mengacu pada ketelanjangan dan menghilangkan pakaian perempuan. "Saya dapat melakukan apa saja yang Anda inginkan tentang wajah atau pakaian foto yang Anda berikan kepada saya," tulis pencipta salah satu bot.
Baca Juga: FBI Temukan Modus Penipuan Baru, Gunakan Teknik Deepfake
Hampir semua bot mengharuskan orang membeli token untuk membuat gambar, dan tidak jelas apakah mereka beroperasi dengan cara yang mereka klaim. Seiring dengan berkembangnya ekosistem di sekitar generasi deepfake dalam beberapa tahun terakhir, hal ini telah menjadi sumber pendapatan yang berpotensi menguntungkan bagi mereka yang membuat situs web, aplikasi, dan bot.
Begitu banyak orang yang mencoba menggunakan situs web "nudify" sehingga penjahat dunia maya Rusia, sebagaimana dilaporkan oleh 404Media, telah mulai membuat situs web palsu untuk menginfeksi orang dengan malware.
Dalam survei terbaru, dilaporkan 40 persen siswa AS mengetahui deepfakes yang terkait dengan sekolah K-12 mereka dalam setahun terakhir.
Bot Telegram yang diidentifikasi oleh Wired didukung oleh 25 saluran Telegram. Saluran Telegram memberi tahu orang tentang fitur baru yang disediakan oleh bot dan penawaran khusus untuk token yang dapat dibeli untuk mengoperasikannya.
Setelah menghubungi Telegram dengan pertanyaan tentang apakah perusahaan tersebut mengizinkan pembuatan konten deepfake di platformnya, perusahaan tersebut menghapus 75 bot dan saluran. Perusahaan tidak menanggapi serangkaian pertanyaan atau mengomentari alasan di balik penghapusan saluran tersebut.
Bot tadi pada dasarnya berupa aplikasi kecil di dalam aplikasi Telegram. Para pemilik saluran menyiarkan pesan ke jumlah pelanggan yang tidak terbatas. Satu grup diisi hingga 200.000 orang yang dapat berinteraksi. Pengembang membuat bot yang membuat orang bermain kuis trivia, menerjemahkan pesan, membuat peringatan, atau memulai rapat Zoom.
Banyak dari bot deepfake memiliki nama dan deskripsi bot yang mengacu pada ketelanjangan dan menghilangkan pakaian perempuan. "Saya dapat melakukan apa saja yang Anda inginkan tentang wajah atau pakaian foto yang Anda berikan kepada saya," tulis pencipta salah satu bot.
Baca Juga: FBI Temukan Modus Penipuan Baru, Gunakan Teknik Deepfake
Hampir semua bot mengharuskan orang membeli token untuk membuat gambar, dan tidak jelas apakah mereka beroperasi dengan cara yang mereka klaim. Seiring dengan berkembangnya ekosistem di sekitar generasi deepfake dalam beberapa tahun terakhir, hal ini telah menjadi sumber pendapatan yang berpotensi menguntungkan bagi mereka yang membuat situs web, aplikasi, dan bot.
Begitu banyak orang yang mencoba menggunakan situs web "nudify" sehingga penjahat dunia maya Rusia, sebagaimana dilaporkan oleh 404Media, telah mulai membuat situs web palsu untuk menginfeksi orang dengan malware.
Lihat Juga :