Indonesia Putus Akses Grok Demi Bendung Arus Pornografi Buatan AI
Sabtu, 10 Januari 2026 - 15:24 WIB
loading...
A
A
A
Fitur image generation pada Grok, yang dikembangkan oleh xAI, menjadi salah satu nilai jual utama untuk menarik pelanggan berbayar di Platform X.
Namun, ketiadaan mekanisme moderasi yang memadai menjadikan fitur ini bumerang. Korban tidak hanya dirugikan secara psikologis dan sosial, tetapi juga menghadapi kekosongan hukum dalam menuntut pelaku yang bersembunyi di balik anonimitas algoritma.
Meutya menekankan bahwa pemutusan akses ini bersifat preventif sekaligus korektif. Negara menuntut setiap Penyelenggara Sistem Elektronik (PSE) untuk memiliki mekanisme pengamanan atau safety rails yang kokoh, bukan sekadar menyerahkan tanggung jawab kepada pengguna akhir.
Meskipun pihak Grok dan xAI mengklaim bahwa fitur pembuatan dan pengeditan gambar hanya tersedia untuk pelanggan berbayar (premium), fakta di lapangan menunjukkan celah keamanan yang menganga.
Banyak tudingan menyebutkan bahwa restriksi tersebut mudah diakali, memungkinkan siapa saja memproduksi konten asusila. Hal ini memicu reaksi berantai dari regulator dunia. Inggris, Uni Eropa, hingga India telah secara terbuka mengecam X.
Di India, pemerintah setempat bahkan mengeluarkan ultimatum yang mengancam akan mencabut perlindungan safe harbor bagi X jika penyalahgunaan fitur ini tidak segera dihentikan.
Namun, ketiadaan mekanisme moderasi yang memadai menjadikan fitur ini bumerang. Korban tidak hanya dirugikan secara psikologis dan sosial, tetapi juga menghadapi kekosongan hukum dalam menuntut pelaku yang bersembunyi di balik anonimitas algoritma.
Meutya menekankan bahwa pemutusan akses ini bersifat preventif sekaligus korektif. Negara menuntut setiap Penyelenggara Sistem Elektronik (PSE) untuk memiliki mekanisme pengamanan atau safety rails yang kokoh, bukan sekadar menyerahkan tanggung jawab kepada pengguna akhir.
Kritik Global dan Pertaruhan Elon Musk
Indonesia tidak berdiri sendiri dalam kekecewaan ini. Secara global, Grok telah menjadi sorotan tajam karena dianggap terlalu "bebas nilai".Meskipun pihak Grok dan xAI mengklaim bahwa fitur pembuatan dan pengeditan gambar hanya tersedia untuk pelanggan berbayar (premium), fakta di lapangan menunjukkan celah keamanan yang menganga.
Banyak tudingan menyebutkan bahwa restriksi tersebut mudah diakali, memungkinkan siapa saja memproduksi konten asusila. Hal ini memicu reaksi berantai dari regulator dunia. Inggris, Uni Eropa, hingga India telah secara terbuka mengecam X.
Di India, pemerintah setempat bahkan mengeluarkan ultimatum yang mengancam akan mencabut perlindungan safe harbor bagi X jika penyalahgunaan fitur ini tidak segera dihentikan.
Lihat Juga :
