Tidak Hanya Indonesia, Inggris Siapkan Opsi Blokir X Imbas Skandal Deepfake Grok

Logika pasar yang diterapkan X dinilai cacat moral. Dengan menjadikan fitur tersebut eksklusif bagi pelanggan berbayar (pengguna dengan centang biru), X seolah hanya memonetisasi kemampuan untuk memproduksi konten berbahaya, alih-alih memperbaiki cacat etika pada algoritma dasarnya.

Dr. Daisy Dixon, dosen filsafat di Universitas Cardiff yang juga menjadi korban, menyebut langkah X ini hanya seperti "plester luka" yang tidak menyentuh akar masalah.

"Grok perlu didesain ulang total dan memiliki pagar pembatas etika (ethical guardrails) bawaan untuk mencegah hal ini terjadi lagi. Elon Musk juga perlu mengakui ini sebagai apa adanya—sebuah contoh lain dari pelanggaran berbasis gender," tegas Dixon.

Data Mengerikan: Menasar Anak Usia 11 Tahun

Kritik terhadap Grok bukan sekadar histeria moral, melainkan didasarkan pada temuan data yang mengkhawatirkan.

Internet Watch Foundation (IWF), sebuah badan amal pengawas internet, mengungkapkan bahwa analis mereka telah menemukan "citra kriminal" yang melibatkan anak perempuan berusia antara 11 hingga 13 tahun. Gambar-gambar tersebut, menurut IWF, memiliki indikasi kuat telah dibuat menggunakan Grok.

Hannah Swirsky, Kepala Kebijakan di IWF, menegaskan bahwa pembatasan akses ke pelanggan berbayar tidak menghapus kerugian yang telah terjadi. "Kami tidak percaya bahwa sekadar membatasi akses ke alat yang seharusnya tidak pernah memiliki kapasitas untuk membuat jenis citra seperti ini adalah langkah yang cukup baik," ujarnya.

Perdana Menteri Sir Keir Starmer turut mengecam fenomena ini sebagai sesuatu yang "memalukan" dan "menjijikkan".