Teror Digital di Platform X: Saat AI Grok Milik Elon Musk Menelanjangi Wanita dan Anak Tanpa Ampun

JAKARTA - Imajinasi liar predator seksual kini mendapat "senjata" baru yang mematikan di platform X. Ini karena kecerdasan buatan Grok milik Elon Musk disalahgunakan secara masif untuk melucuti pakaian wanita dan anak di bawah umur secara digital hanya dalam hitungan detik.

Fenomena ini bukan lagi sekadar celah teknologi. Tapi, manifestasi nyata dari kekerasan berbasis gender yang difasilitasi oleh algoritma canggih tanpa pengawasan memadai.

Hanya dengan mengunggah foto berpakaian lengkap dan mengetikkan perintah atau prompt sederhana, pengguna X kini dapat memanipulasi gambar tersebut menjadi visual vulgar.

AI generatif Grok, yang seharusnya menjadi asisten cerdas, berubah fungsi menjadi mesin nudification (penelanjangan) instan yang memangsa siapa saja, mulai selebritas hingga warga biasa.

Korban yang Tak Berdaya: "Saya Merasa Ditelanjangi"

Kasus ini mencuat setelah laporan investigasi Reuters dan BBC mengungkap ribuan permintaan publik yang dikirim ke Grok untuk mengubah foto wanita agar tampak mengenakan bikini transparan atau tanpa busana sama sekali.

Julie Yukari, musisi asal Rio de Janeiro, menjadi salah satu korban dari kebrutalan algoritma ini. Foto tubuhnya dimanipulasi dan disebar di platform tersebut tanpa izin. "Saya naif," ujar Julie kepada Reuters, mengakui bahwa ia tidak pernah menyangka sebuah alat AI resmi akan mematuhi permintaan amoral dari penggunanya.

Di Inggris, Samantha Smith, jurnalis lepas, merasakan dampak psikologis yang mendalam. Ia merasa didehumanisasi dan direduksi menjadi sekadar stereotip seksual. "Meskipun bukan saya yang berpose tanpa busana, gambar itu terlihat seperti saya dan rasanya seperti saya. Pelanggarannya terasa sama nyatanya seolah-olah seseorang menyebarkan foto telanjang saya yang asli," ungkap Samantha kepada BBC.

Tyler Johnston dari The Midas Project menegaskan bahwa bencana ini sudah diprediksi. Sejak Agustus, pihaknya telah memperingatkan xAI (perusahaan AI milik Musk) bahwa fitur pembuatan gambar mereka pada dasarnya adalah alat pornografi yang menunggu untuk dipersenjatai. "Itulah yang kini terjadi," tegasnya.

Ketimpangan Struktural

Iim Fahima Jachja, Pendiri Indonesia AI Institute, mengatakan, apa yang terjadi di platform X bukan sekadar penyalahgunaan fitur, melainkan cerminan dari ketimpangan kekuasaan struktural yang diperparah oleh teknologi.

"AI tidak bekerja di ruang hampa. Ia beroperasi di dalam sistem sosial yang sudah timpang: timpang dalam literasi, timpang dalam akses ke keadilan, dan timpang dalam posisi tawar," ujar Iim Fahima lewat unggahan status di Facebook.

Ia menyoroti narasi kejam yang sering muncul di media sosial, seperti komentar "jangan posting gambar kalau tidak mau ditelanjangi", yang seolah membebankan kesalahan pada korban.

Secara hukum, Iim menyebut posisi korban sangat lemah karena regulasi sering kali menimpakan kesalahan sepenuhnya pada pengguna individu, bukan pada penyedia alat (platform).

"Faktanya, kelompok yang paling terdampak sering kali tidak memahami bagaimana sistem bekerja, tidak tahu ke mana harus melapor, dan tidak punya sumber daya hukum. Akuntabilitas menjadi kabur karena tersebar di antara pengguna, platform, algoritma, dan kebijakan," tambah Iim.

Dalam pandangannya, tanpa literasi dan perlindungan memadai, kemajuan teknologi tidak pernah netral. Ia hanya akan menguatkan pihak yang sudah kuat (pemilik platform dan pelaku yang paham sistem) dan semakin melemahkan mereka yang rentan.

Arogansi Platform dan Respons Global

Respons dari pihak X dan xAI sejauh ini dinilai mengecewakan dan defensif. Ketika dikonfrontasi mengenai temuan gambar seksual anak dan wanita, xAI hanya merespons dengan pernyataan otomatis: "Legacy Media Lies" (Kebohongan Media Lama).

Sikap ini menunjukkan arogansi teknologi yang mengabaikan dampak sosial demi kebebasan fitur yang kebablasan.
Namun, regulator global mulai bergerak. Menteri-menteri di Prancis telah melaporkan masalah ini ke jaksa penuntut dengan melabeli konten tersebut sebagai ilegal.

Kementerian Elektronika dan Teknologi Informasi India juga mengeluarkan peringatan keras kepada X, menuntut penghapusan konten cabul dan laporan tindakan pencegahan sesuai UU Teknologi Informasi tahun 2000.

Di Inggris, undang-undang baru mengancam hukuman penjara bagi siapa saja yang menyediakan alat pembuat deepfake seksual.

Solusi bagi Pengguna: Literasi sebagai Perisai

Di tengah lambatnya regulasi dan arogansi platform, apa yang bisa dilakukan pengguna internet biasa? Iim Fahima Jachja menekankan bahwa AI Literacy atau literasi AI adalah mekanisme perlindungan sosial yang paling mendesak saat ini. Ini bukan sekadar soal bisa menggunakan alat, tapi memahami risiko dan hak.

Berikut adalah langkah mitigasi yang bisa diambil:

1. Pahami Bahwa Ini Pelanggaran: Pengguna harus sadar bahwa manipulasi foto tanpa izin adalah kekerasan digital, bukan "risiko biasa" atau lelucon. Kesadaran ini penting untuk tidak menyalahkan diri sendiri.

2. Perketat Privasi Digital (Digital Hygiene): Meskipun tidak adil membatasi ekspresi korban, membatasi akses publik terhadap foto pribadi di media sosial (mengunci akun atau memfilter pengikut) dapat mengurangi risiko material foto diambil oleh bot atau pelaku kejahatan.

3. Lapor dan Blokir Masif: Manfaatkan fitur pelaporan (report) di setiap platform secara kolektif. Algoritma moderasi sering kali bekerja berdasarkan volume laporan.

4. Desakan Kebijakan Publik: Masyarakat sipil perlu terus mendesak pemerintah—seperti yang dilakukan Iim Fahima kepada Kementerian Komdigi—untuk menyusun kebijakan yang tidak hanya mengedukasi, tetapi juga berpihak dan melindungi kelompok rentan dari eksploitasi algoritma.