Indonesia Putus Akses Grok Demi Bendung Arus Pornografi Buatan AI
Sabtu, 10 Januari 2026 - 15:24 WIB
loading...
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa kebijakan ini adalah bentuk tanggung jawab negara yang tidak bisa ditawar. Foto: Grok
A
A
A
JAKARTA - Batas toleransi pemerintah Indonesia terhadap “anarki algoritma” akhirnya terlampaui. Sabtu pagi (10/1/2026), Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah drastis dengan memutus akses sementara terhadap Grok, fitur kecerdasan artifisial (Artificial Intelligence/AI) andalan milik Elon Musk yang terintegrasi dalam Platform X.
Keputusan ini bukan sekadar tindakan administratif, tapi bentuk pernyataan kedaulatan digital di tengah gelombang
kritik global terhadap penyalahgunaan teknologi generatif untuk memproduksi pornografi palsu (deepfake).
Langkah pemblokiran sementara ini diambil sebagai respons atas keresahan publik mengenai kemampuan Grok yang terlalu permisif dalam memproduksi gambar tak senonoh.
Tanpa filter etika ketat, teknologi ini berpotensi menjadi senjata kekerasan seksual berbasis siber yang menyasar perempuan dan anak-anak.
Dalam lanskap digital yang kian liar, praktik deepfake seksual nonkonsensual—pembuatan konten porno menggunakan wajah orang lain tanpa izin—dikategorikan sebagai pelanggaran hak asasi manusia yang serius.
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ujar Meutya dalam pernyataan resminya di Jakarta.
Fitur image generation pada Grok, yang dikembangkan oleh xAI, menjadi salah satu nilai jual utama untuk menarik pelanggan berbayar di Platform X.
Namun, ketiadaan mekanisme moderasi yang memadai menjadikan fitur ini bumerang. Korban tidak hanya dirugikan secara psikologis dan sosial, tetapi juga menghadapi kekosongan hukum dalam menuntut pelaku yang bersembunyi di balik anonimitas algoritma.
Meutya menekankan bahwa pemutusan akses ini bersifat preventif sekaligus korektif. Negara menuntut setiap Penyelenggara Sistem Elektronik (PSE) untuk memiliki mekanisme pengamanan atau safety rails yang kokoh, bukan sekadar menyerahkan tanggung jawab kepada pengguna akhir.
Meskipun pihak Grok dan xAI mengklaim bahwa fitur pembuatan dan pengeditan gambar hanya tersedia untuk pelanggan berbayar (premium), fakta di lapangan menunjukkan celah keamanan yang menganga.
Banyak tudingan menyebutkan bahwa restriksi tersebut mudah diakali, memungkinkan siapa saja memproduksi konten asusila. Hal ini memicu reaksi berantai dari regulator dunia. Inggris, Uni Eropa, hingga India telah secara terbuka mengecam X.
Di India, pemerintah setempat bahkan mengeluarkan ultimatum yang mengancam akan mencabut perlindungan safe harbor bagi X jika penyalahgunaan fitur ini tidak segera dihentikan.
Pencabutan status ini berarti X dapat dituntut secara hukum atas konten yang diunggah penggunanya. Sementara itu, Uni Eropa menuntut xAI untuk menyimpan semua dokumentasi teknis terkait chatbot tersebut untuk keperluan audit forensik.
Sebagai langkah lanjutan, Komdigi telah melayangkan panggilan resmi kepada manajemen Platform X untuk memberikan klarifikasi.
Pemerintah menuntut penjelasan komprehensif mengenai dampak negatif Grok serta langkah mitigasi konkret untuk mencegah terulangnya insiden serupa.
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," tegas Meutya.
Langkah Jakarta ini mengirimkan sinyal pasar yang jelas: di Indonesia, inovasi teknologi tidak boleh mengangkangi etika dan perlindungan warga negara.
Keputusan ini bukan sekadar tindakan administratif, tapi bentuk pernyataan kedaulatan digital di tengah gelombang
kritik global terhadap penyalahgunaan teknologi generatif untuk memproduksi pornografi palsu (deepfake).
Langkah pemblokiran sementara ini diambil sebagai respons atas keresahan publik mengenai kemampuan Grok yang terlalu permisif dalam memproduksi gambar tak senonoh.
Tanpa filter etika ketat, teknologi ini berpotensi menjadi senjata kekerasan seksual berbasis siber yang menyasar perempuan dan anak-anak.
Di Balik Alibi Kebebasan Berekspresi
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa kebijakan ini adalah bentuk tanggung jawab negara yang tidak bisa ditawar.Dalam lanskap digital yang kian liar, praktik deepfake seksual nonkonsensual—pembuatan konten porno menggunakan wajah orang lain tanpa izin—dikategorikan sebagai pelanggaran hak asasi manusia yang serius.
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ujar Meutya dalam pernyataan resminya di Jakarta.
Fitur image generation pada Grok, yang dikembangkan oleh xAI, menjadi salah satu nilai jual utama untuk menarik pelanggan berbayar di Platform X.
Namun, ketiadaan mekanisme moderasi yang memadai menjadikan fitur ini bumerang. Korban tidak hanya dirugikan secara psikologis dan sosial, tetapi juga menghadapi kekosongan hukum dalam menuntut pelaku yang bersembunyi di balik anonimitas algoritma.
Meutya menekankan bahwa pemutusan akses ini bersifat preventif sekaligus korektif. Negara menuntut setiap Penyelenggara Sistem Elektronik (PSE) untuk memiliki mekanisme pengamanan atau safety rails yang kokoh, bukan sekadar menyerahkan tanggung jawab kepada pengguna akhir.
Kritik Global dan Pertaruhan Elon Musk
Indonesia tidak berdiri sendiri dalam kekecewaan ini. Secara global, Grok telah menjadi sorotan tajam karena dianggap terlalu "bebas nilai".Meskipun pihak Grok dan xAI mengklaim bahwa fitur pembuatan dan pengeditan gambar hanya tersedia untuk pelanggan berbayar (premium), fakta di lapangan menunjukkan celah keamanan yang menganga.
Banyak tudingan menyebutkan bahwa restriksi tersebut mudah diakali, memungkinkan siapa saja memproduksi konten asusila. Hal ini memicu reaksi berantai dari regulator dunia. Inggris, Uni Eropa, hingga India telah secara terbuka mengecam X.
Di India, pemerintah setempat bahkan mengeluarkan ultimatum yang mengancam akan mencabut perlindungan safe harbor bagi X jika penyalahgunaan fitur ini tidak segera dihentikan.
Pencabutan status ini berarti X dapat dituntut secara hukum atas konten yang diunggah penggunanya. Sementara itu, Uni Eropa menuntut xAI untuk menyimpan semua dokumentasi teknis terkait chatbot tersebut untuk keperluan audit forensik.
Landasan Hukum dan Ultimatum untuk Platform X
Tindakan tegas Komdigi berpijak pada landasan hukum Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Pasal 9 regulasi tersebut secara eksplisit mewajibkan PSE untuk memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang undang-undang.Sebagai langkah lanjutan, Komdigi telah melayangkan panggilan resmi kepada manajemen Platform X untuk memberikan klarifikasi.
Pemerintah menuntut penjelasan komprehensif mengenai dampak negatif Grok serta langkah mitigasi konkret untuk mencegah terulangnya insiden serupa.
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," tegas Meutya.
Langkah Jakarta ini mengirimkan sinyal pasar yang jelas: di Indonesia, inovasi teknologi tidak boleh mengangkangi etika dan perlindungan warga negara.
(dan)
Lihat Juga :
