Teror Digital di Platform X: Saat AI Grok Milik Elon Musk Menelanjangi Wanita dan Anak Tanpa Ampun

Namun, regulator global mulai bergerak. Menteri-menteri di Prancis telah melaporkan masalah ini ke jaksa penuntut dengan melabeli konten tersebut sebagai ilegal.

Kementerian Elektronika dan Teknologi Informasi India juga mengeluarkan peringatan keras kepada X, menuntut penghapusan konten cabul dan laporan tindakan pencegahan sesuai UU Teknologi Informasi tahun 2000.

Di Inggris, undang-undang baru mengancam hukuman penjara bagi siapa saja yang menyediakan alat pembuat deepfake seksual.

Solusi bagi Pengguna: Literasi sebagai Perisai

Di tengah lambatnya regulasi dan arogansi platform, apa yang bisa dilakukan pengguna internet biasa? Iim Fahima Jachja menekankan bahwa AI Literacy atau literasi AI adalah mekanisme perlindungan sosial yang paling mendesak saat ini. Ini bukan sekadar soal bisa menggunakan alat, tapi memahami risiko dan hak.

Berikut adalah langkah mitigasi yang bisa diambil:

1. Pahami Bahwa Ini Pelanggaran: Pengguna harus sadar bahwa manipulasi foto tanpa izin adalah kekerasan digital, bukan "risiko biasa" atau lelucon. Kesadaran ini penting untuk tidak menyalahkan diri sendiri.

2. Perketat Privasi Digital (Digital Hygiene): Meskipun tidak adil membatasi ekspresi korban, membatasi akses publik terhadap foto pribadi di media sosial (mengunci akun atau memfilter pengikut) dapat mengurangi risiko material foto diambil oleh bot atau pelaku kejahatan.

3. Lapor dan Blokir Masif: Manfaatkan fitur pelaporan (report) di setiap platform secara kolektif. Algoritma moderasi sering kali bekerja berdasarkan volume laporan.

4. Desakan Kebijakan Publik: Masyarakat sipil perlu terus mendesak pemerintah—seperti yang dilakukan Iim Fahima kepada Kementerian Komdigi—untuk menyusun kebijakan yang tidak hanya mengedukasi, tetapi juga berpihak dan melindungi kelompok rentan dari eksploitasi algoritma.