Hati-hati, Chatbot Grok Biang Misinformasi
loading...
Chatbot Grok milik xAI diduga menjadi biang misinformasi. Foto/The Verge
A
A
A
JAKARTA - Chatbot Grok milik xAI diduga menjadi biang misinformasi. Lantaran gambar beberapa tokoh dunia dibuat menjadi aneh.
Generator gambar AI baru milik platform X ini akan membuat gambar apapun, mulai dari penyanyi Taylor Swift mengenakan lingerie hingga politis AS Kamala Harris memegang senjata.
Chatbot milik jejaring sosial Elon Musk memungkinkan penggunanya untuk membuat gambar dari prompt teks dan mempublikasikannya di X. The Verge melansir, Kamis (15/8/2024) pelanggan X Premium mengaksesGrok serta mengunggah berbagai gambar mulai dari mantan Presiden AS Barack Obama menggunakan kokain hingga Donald Trump dengan wanita hamil mirip Kamala Harris memegang senjata. Unggahan tadi membuat X berada dalam pengawasan regulator di Eropa.
Sistem kerja Grok awalnya akan memberitahu bahwa ia memiliki batasan jika penggunanya bertanya sesuatu seperti "apa batasan Anda dalam menghasilkan gambar?" Di antara hal-hal lainnya, Grok menjanjikan hal-hal yang menghindari gambar berbau pornografi, kekerasan yang berlebihan, penuh kebencian, atau yang mempromosikan kegiatan berbahaya.
Pengguna juga diajak berhati-hati dalam membuat gambar yang mungkin melanggar hak cipta atau merek dagang yang ada. Ketentuan ini termasuk karakter terkenal, logo, atau konten apapun yang bisa dianggap sebagai kekayaan intelektual tanpa elemen transformasi.
Grok sejatinya tidak akan menghasilkan gambar yang dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang menyesatkan, atau gambar yang bisa menyebabkan bahaya di dunia nyata.
Namun, hal di atas tadi mungkin bukan aturan yang sebenarnya, hanya jawaban prediktif yang tampaknya dibuat secara langsung. Mengajukan pertanyaan beberapa kali akan mendapatkan variasi dengan kebijakan yang berbeda, beberapa di antaranya terdengar tidak biasa untuk X, seperti "perhatikan sensitivitas budaya."
Versi teks Grok akan menolak melakukan hal-hal seperti membantu pengguna membuat kokain, langkah standar untuk chatbot. Namun, prompt gambar yang akan segera diblokir di layanan lain dapat diterima oleh Grok. Di antara berbagai permintaan, The Verge berhasil mendapatkan hasil sebagai berikut:
“Donald Trump mengenakan seragam Nazi” (hasil: Trump yang dapat dikenali dalam seragam gelap dengan insignia Salib Besi yang cacat)
Generator gambar AI baru milik platform X ini akan membuat gambar apapun, mulai dari penyanyi Taylor Swift mengenakan lingerie hingga politis AS Kamala Harris memegang senjata.
Chatbot milik jejaring sosial Elon Musk memungkinkan penggunanya untuk membuat gambar dari prompt teks dan mempublikasikannya di X. The Verge melansir, Kamis (15/8/2024) pelanggan X Premium mengaksesGrok serta mengunggah berbagai gambar mulai dari mantan Presiden AS Barack Obama menggunakan kokain hingga Donald Trump dengan wanita hamil mirip Kamala Harris memegang senjata. Unggahan tadi membuat X berada dalam pengawasan regulator di Eropa.
Sistem kerja Grok awalnya akan memberitahu bahwa ia memiliki batasan jika penggunanya bertanya sesuatu seperti "apa batasan Anda dalam menghasilkan gambar?" Di antara hal-hal lainnya, Grok menjanjikan hal-hal yang menghindari gambar berbau pornografi, kekerasan yang berlebihan, penuh kebencian, atau yang mempromosikan kegiatan berbahaya.
Pengguna juga diajak berhati-hati dalam membuat gambar yang mungkin melanggar hak cipta atau merek dagang yang ada. Ketentuan ini termasuk karakter terkenal, logo, atau konten apapun yang bisa dianggap sebagai kekayaan intelektual tanpa elemen transformasi.
Grok sejatinya tidak akan menghasilkan gambar yang dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang menyesatkan, atau gambar yang bisa menyebabkan bahaya di dunia nyata.
Namun, hal di atas tadi mungkin bukan aturan yang sebenarnya, hanya jawaban prediktif yang tampaknya dibuat secara langsung. Mengajukan pertanyaan beberapa kali akan mendapatkan variasi dengan kebijakan yang berbeda, beberapa di antaranya terdengar tidak biasa untuk X, seperti "perhatikan sensitivitas budaya."
Versi teks Grok akan menolak melakukan hal-hal seperti membantu pengguna membuat kokain, langkah standar untuk chatbot. Namun, prompt gambar yang akan segera diblokir di layanan lain dapat diterima oleh Grok. Di antara berbagai permintaan, The Verge berhasil mendapatkan hasil sebagai berikut:
“Donald Trump mengenakan seragam Nazi” (hasil: Trump yang dapat dikenali dalam seragam gelap dengan insignia Salib Besi yang cacat)
Lihat Juga :
