Hati-hati, Chatbot Grok Biang Misinformasi
Kamis, 15 Agustus 2024 - 10:00 WIB
loading...
A
A
A
Sebaliknya, OpenAI akan menolak permintaan untuk orang nyata, simbol Nazi, “stereotip atau informasi yang berbahaya,” dan subjek kontroversial lainnya di atas zona terlarang yang dapat diprediksi seperti pornografi.
Berbeda dengan Grok, OpenAI juga menambahkan watermark identifikasi pada gambar yang dibuatnya. Pengguna telah berhasil membujuk chatbot besar untuk menghasilkan gambar serupa dengan yang dijelaskan di atas, tetapi sering memerlukan slang atau cara linguistik lainnya, dan celah biasanya ditutup ketika orang menunjukkannya.
Grok bukan satu-satunya cara untuk mendapatkan gambar AI berbau kekerasan, seksual, atau menyesatkan. Alat perangkat lunak open source seperti Stable Diffusion dapat diubah untuk menghasilkan berbagai jenis konten dengan sedikit batasan. Ini hanya pendekatan yang sangat tidak biasa untuk chatbot online dari perusahaan teknologi besar — Google menghentikan kemampuan generasi gambar Gemini sepenuhnya setelah upaya yang memalukan untuk mengoreksi stereotip ras dan gender.
Kelonggaran Grok konsisten dengan ketidaksukaan Musk terhadap konvensi standar keselamatan AI dan media sosial, tetapi generator gambar ini muncul pada momen yang sangat genting. Komisi Eropa sudah menyelidiki X untuk potensi pelanggaran Undang-Undang Keselamatan Digital, yang mengatur bagaimana platform online besar mengelola konten, dan meminta informasi lebih awal tahun ini dari X dan perusahaan lain tentang mitigasi risiko terkait AI.
Di Inggris, regulator Ofcom juga sedang mempersiapkan untuk mulai menegakkan Undang-Undang Keselamatan Online (OSA), yang mencakup persyaratan mitigasi risiko yang mencakup AI.
Pemerintah AS juga memiliki perlindungan yang jauh lebih luas dan perlindungan tanggung jawab untuk layanan online. Hubungan Musk dengan tokoh konservatif mungkin memberinya beberapa keuntungan politik. Namun, legislator masih mencari cara untuk mengatur impersonasi yang dihasilkan AI dan disinformasi atau deepfake seksual — sebagian didorong oleh gelombang deepfake eksplisit Taylor Swift yang menyebar di X.
Berbeda dengan Grok, OpenAI juga menambahkan watermark identifikasi pada gambar yang dibuatnya. Pengguna telah berhasil membujuk chatbot besar untuk menghasilkan gambar serupa dengan yang dijelaskan di atas, tetapi sering memerlukan slang atau cara linguistik lainnya, dan celah biasanya ditutup ketika orang menunjukkannya.
Grok bukan satu-satunya cara untuk mendapatkan gambar AI berbau kekerasan, seksual, atau menyesatkan. Alat perangkat lunak open source seperti Stable Diffusion dapat diubah untuk menghasilkan berbagai jenis konten dengan sedikit batasan. Ini hanya pendekatan yang sangat tidak biasa untuk chatbot online dari perusahaan teknologi besar — Google menghentikan kemampuan generasi gambar Gemini sepenuhnya setelah upaya yang memalukan untuk mengoreksi stereotip ras dan gender.
Kelonggaran Grok konsisten dengan ketidaksukaan Musk terhadap konvensi standar keselamatan AI dan media sosial, tetapi generator gambar ini muncul pada momen yang sangat genting. Komisi Eropa sudah menyelidiki X untuk potensi pelanggaran Undang-Undang Keselamatan Digital, yang mengatur bagaimana platform online besar mengelola konten, dan meminta informasi lebih awal tahun ini dari X dan perusahaan lain tentang mitigasi risiko terkait AI.
Di Inggris, regulator Ofcom juga sedang mempersiapkan untuk mulai menegakkan Undang-Undang Keselamatan Online (OSA), yang mencakup persyaratan mitigasi risiko yang mencakup AI.
Pemerintah AS juga memiliki perlindungan yang jauh lebih luas dan perlindungan tanggung jawab untuk layanan online. Hubungan Musk dengan tokoh konservatif mungkin memberinya beberapa keuntungan politik. Namun, legislator masih mencari cara untuk mengatur impersonasi yang dihasilkan AI dan disinformasi atau deepfake seksual — sebagian didorong oleh gelombang deepfake eksplisit Taylor Swift yang menyebar di X.
(msf)
Lihat Juga :
