Teror Digital di Platform X: Saat AI Grok Milik Elon Musk Menelanjangi Wanita dan Anak Tanpa Ampun

Ketimpangan Struktural

Iim Fahima Jachja, Pendiri Indonesia AI Institute, mengatakan, apa yang terjadi di platform X bukan sekadar penyalahgunaan fitur, melainkan cerminan dari ketimpangan kekuasaan struktural yang diperparah oleh teknologi.

"AI tidak bekerja di ruang hampa. Ia beroperasi di dalam sistem sosial yang sudah timpang: timpang dalam literasi, timpang dalam akses ke keadilan, dan timpang dalam posisi tawar," ujar Iim Fahima lewat unggahan status di Facebook.

Ia menyoroti narasi kejam yang sering muncul di media sosial, seperti komentar "jangan posting gambar kalau tidak mau ditelanjangi", yang seolah membebankan kesalahan pada korban.

Secara hukum, Iim menyebut posisi korban sangat lemah karena regulasi sering kali menimpakan kesalahan sepenuhnya pada pengguna individu, bukan pada penyedia alat (platform).

"Faktanya, kelompok yang paling terdampak sering kali tidak memahami bagaimana sistem bekerja, tidak tahu ke mana harus melapor, dan tidak punya sumber daya hukum. Akuntabilitas menjadi kabur karena tersebar di antara pengguna, platform, algoritma, dan kebijakan," tambah Iim.

Dalam pandangannya, tanpa literasi dan perlindungan memadai, kemajuan teknologi tidak pernah netral. Ia hanya akan menguatkan pihak yang sudah kuat (pemilik platform dan pelaku yang paham sistem) dan semakin melemahkan mereka yang rentan.

Arogansi Platform dan Respons Global

Respons dari pihak X dan xAI sejauh ini dinilai mengecewakan dan defensif. Ketika dikonfrontasi mengenai temuan gambar seksual anak dan wanita, xAI hanya merespons dengan pernyataan otomatis: "Legacy Media Lies" (Kebohongan Media Lama).

Sikap ini menunjukkan arogansi teknologi yang mengabaikan dampak sosial demi kebebasan fitur yang kebablasan.
Namun, regulator global mulai bergerak. Menteri-menteri di Prancis telah melaporkan masalah ini ke jaksa penuntut dengan melabeli konten tersebut sebagai ilegal.