Bahaya! Chatbot AI Telegram Ditemukan Bisa Membuat Gambar Telanjang

JAKARTA - Dalam penyelidikan baru, ditemukan bahwa jutaan pengguna menggunakan chatbot bertenaga AI di Telegram untuk membuat gamba r telanjang dan eksplisit orang sungguhan.

BACA JUGA - Uniknya Isi Pesan NASA buat Alien, dari Gambar Manusia Telanjang hingga Ilustrasi Bumi

Pengguna diizinkan oleh bot untuk mengubah foto dengan beberapa klik dan membuat foto palsu yang menghilangkan pakaian dari gambar atau membuat aktivitas seksual, menurut laporan yang diterbitkan oleh Wired.

Seperti dilansir dari Wion News, laporan lebih lanjut menyatakan bahwa chatbot ini telah digunakan oleh sebanyak empat juta pengguna setiap bulan untuk membuat deepfake.

Kewaspadaan terhadap situasi ini disuarakan oleh para ahli seperti Henry Ajder yang mencatat bahwa bot semacam itu menimbulkan risiko serius, terutama bagi gadis dan wanita muda.

Ajder menemukan chatbot eksplisit ini empat tahun lalu di platform media sosial. Ia menekankan bahwa situasi ini "mengerikan" mengingat banyaknya orang yang aktif menggunakannya.

"Sangat memprihatinkan bahwa alat-alat ini yang benar-benar menghancurkan kehidupan dan menciptakan skenario yang sangat mengerikan terutama bagi gadis-gadis muda dan wanita — masih begitu mudah diakses dan ditemukan di web permukaan, di salah satu aplikasi terbesar di dunia," jelasnya.

Telegram, yang dikenal terutama untuk layanan terjemahan dan peringatan, telah berubah menjadi pusat bot berbahaya tersebut.

Wired mengklaim bahwa ketika mereka menghubungi perusahaan tersebut, mereka tidak menerima respons apa pun, namun bot tersebut menghilang dari platform.

Menurut laporan, bot deepfake memiliki kejelasan tentang apa yang harus mereka lakukan. Nama dan deskripsi bot tersebut jelas merujuk pada ketelanjangan dan pelepasan pakaian wanita.

"Saya bisa melakukan apa pun yang Anda inginkan pada wajah atau pakaian di foto yang Anda berikan kepada saya," tulis Wired, seperti yang ditulis salah satu kreator bot. "Rasakan kejutan yang dibawa oleh AI (Kecerdasan Buatan)," kata yang lain.

Berbicara mengenai dampak gambar-gambar palsu ini kepada Wired, kepala penyalahgunaan yang difasilitasi teknologi dan pemberdayaan ekonomi di Refuge, Emma Pickering mengatakan, "Jenis gambar palsu ini dapat membahayakan kesehatan dan kesejahteraan seseorang dengan menyebabkan trauma psikologis dan perasaan terhina, takut, malu, dan bersalah."

"Meskipun bentuk kekerasan ini umum terjadi, pelakunya jarang dimintai pertanggungjawaban, dan kita tahu bahwa jenis kekerasan ini semakin umum terjadi dalam hubungan pasangan intim," tambahnya.

Awal bulan ini, CEO Telegram Pavel Durov menghadapi tuduhan memfasilitasi pornografi anak, namun, hanya ada sedikit perubahan dalam operasi platform tersebut.