Dapat Tekanan Global, X Blokir Grok Terkait Edit Gambar Telanjang

LONDON - Platform media sosial X telah mengumumkan langkah-langkah baru untuk memblokir alat kecerdasan buatan (AI) mereka, Grok, agar tidak digunakan untuk mengedit gambar orang sungguhan sehingga mereka tampak mengenakan atau melepas pakaian.


Platform media sosial X telah mengumumkan langkah-langkah baru untuk memblokir alat kecerdasan buatan mereka, Grok, agar tidak mengedit gambar orang sehingga mereka tampak mengenakan pakaian yang memperlihatkan bagian tubuh.

Langkah ini menyusul tekanan global dan investigasi terhadap distribusi gambar seksual tanpa persetujuan, termasuk yang melibatkan anak-anak.

Beberapa negara seperti Indonesia, Malaysia, dan India telah mengambil tindakan segera terhadap Grok, sementara Komisi Eropa memantau langkah-langkah keamanan yang diambil oleh X untuk melindungi pengguna dari eksploitasi, terutama dalam kasus anak-anak.

Langkah ini menyusul tekanan global dan beberapa investigasi terhadap distribusi gambar seksual tanpa persetujuan, termasuk yang melibatkan anak-anak.

Tim keamanan X mengatakan mereka telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengedit gambar orang yang mengenakan pakaian seperti bikini, pakaian dalam, atau pakaian yang dianggap memperlihatkan bagian tubuh.

Pembatasan tersebut berlaku untuk semua pengguna, termasuk pelanggan berbayar.

Langkah-langkah baru ini diumumkan beberapa jam setelah Jaksa Agung California membuka penyelidikan terhadap xAI, pengembang Grok, atas produksi gambar seksual tanpa persetujuan yang telah viral dalam beberapa minggu terakhir.

Penyelidikan ini juga berfokus pada konten yang melibatkan perempuan dan anak-anak yang dianggap mengejutkan dan tidak dapat diterima.

Di Eropa, Komisi Eropa memantau dengan cermat langkah-langkah X untuk memastikan keamanan pengguna, khususnya di bidang eksploitasi anak.

Di Inggris, regulator media Ofcom telah meluncurkan penyelidikan, sementara Perdana Menteri Sir Keir Starmer menggambarkan gambar-gambar tidak senonoh yang diproduksi oleh Grok sebagai "menjijikkan" dan berjanji akan mengambil tindakan tegas jika platform tersebut gagal mematuhi hukum setempat.

Sebagai lapisan keamanan tambahan, X juga membatasi fitur pembuatan dan pengeditan gambar melalui Grok hanya untuk pengguna berbayar, dengan alasan bahwa hal itu meningkatkan akuntabilitas dan kontrol atas penyalahgunaan teknologi tersebut.