Tuai Kritikan, AI Google Gemini Anti Gerakan Kebangkitan
loading...
Kecerdasan buatan Google Gemini ditengarai membatasi gerakan kebangkitan massa. (Foto: Reuters)
A
A
A
JAKARTA - Kecerdasan buatan (AI) Google Gemini ditengarai membatasi gerakan kebangkitan massa. Hal ini muncul karena beberapa perintah untuk menggambarkan sebuah momen sejarah kebangkitan massa tidak bisa terpenuhi.
Akibatnya, kini raksasa teknologi Google menghadapi kritik atas penanganan topik sensitif di China oleh chatbot tersebut. Awalnya pengguna Gemini melaporkan pada pekan ini bahwa pembaruan untuk Google Bard gagal menghasilkan gambar yang representatif ketika diminta untuk membuat gambar kejadian seperti pembantaian Tiananmen Square pada 1989 dan protes pro-demokrasi 2019 di Hong Kong.
Al Jazeera melansir, Sabtu (24/2/2024), pengguna Gemini bernama Yacine, seorang mantan insinyur perangkat lunak di Stripe, mengunggah tangkapan layar Gemini memberitahu pengguna bahwa tidak dapat menghasilkan "gambar seorang pria di Tiananmen Square tahun 1989". Pemberitahuan ini mengisyaratkan gambar ikonik seorang pengunjuk rasa menghadang jalan tank China, dianggap masuk kebijakan keamanan Google.
Stephen L Miller, seorang komentator konservatif di AS, juga membagikan tangkapan layar di X yang menunjukkan Gemini mengatakan bahwa tidak dapat menghasilkan "potret tentang apa yang terjadi di Tiananmen Square" karena sifat sejarah yang "sensitif dan kompleks" dari peristiwa tersebut.
"Merupakan hal yang penting untuk mendekati topik ini dengan penuh rasa hormat dan akurasi, dan kami tidak dapat menjamin bahwa gambar yang dihasilkan akan cukup menangkap nuansa dan gravitas situasi tersebut," tulis Gemini, menurut tangkapan layar yang dibagikan oleh Miller.
Beberapa pembatasan terkait China tampaknya juga berlaku untuk teks. Kennedy Wong, seorang mahasiswa doktoral di University of California, mengatakan Gemini menolak menerjemahkan beberapa frasa bahasa China ke dalam bahasa Inggris yang dianggap ilegal atau sensitif oleh Beijing, termasuk "Bebaskan Hong Kong, Revolusi Zaman Kita" dan "China adalah negara otoriter".
"Atas beberapa alasan, AI tidak dapat memproses permintaan ini, dengan mengutip kebijakan keamanan mereka," kata Wong di X, mencatat bahwa ChatGPT dari OpenAI dapat memproses permintaan tersebut.
Diskusi ini menarik perhatian Yann LeCun, ilmuwan AI utama di Meta yang mengatakan bahwa penanganan Gemini terhadap topik yang berkaitan dengan China menimbulkan pertanyaan tentang transparansi dan sensor.
"Kita memerlukan model dasar AI sumber terbuka sehingga berbagai model khusus yang sangat beragam dapat dibangun di atasnya. Kita memerlukan kumpulan asisten AI yang bebas dan beragam dengan alasan yang sama kita memerlukan pers yang bebas dan beragam," kata LeCun di X.
Akibatnya, kini raksasa teknologi Google menghadapi kritik atas penanganan topik sensitif di China oleh chatbot tersebut. Awalnya pengguna Gemini melaporkan pada pekan ini bahwa pembaruan untuk Google Bard gagal menghasilkan gambar yang representatif ketika diminta untuk membuat gambar kejadian seperti pembantaian Tiananmen Square pada 1989 dan protes pro-demokrasi 2019 di Hong Kong.
Al Jazeera melansir, Sabtu (24/2/2024), pengguna Gemini bernama Yacine, seorang mantan insinyur perangkat lunak di Stripe, mengunggah tangkapan layar Gemini memberitahu pengguna bahwa tidak dapat menghasilkan "gambar seorang pria di Tiananmen Square tahun 1989". Pemberitahuan ini mengisyaratkan gambar ikonik seorang pengunjuk rasa menghadang jalan tank China, dianggap masuk kebijakan keamanan Google.
Stephen L Miller, seorang komentator konservatif di AS, juga membagikan tangkapan layar di X yang menunjukkan Gemini mengatakan bahwa tidak dapat menghasilkan "potret tentang apa yang terjadi di Tiananmen Square" karena sifat sejarah yang "sensitif dan kompleks" dari peristiwa tersebut.
"Merupakan hal yang penting untuk mendekati topik ini dengan penuh rasa hormat dan akurasi, dan kami tidak dapat menjamin bahwa gambar yang dihasilkan akan cukup menangkap nuansa dan gravitas situasi tersebut," tulis Gemini, menurut tangkapan layar yang dibagikan oleh Miller.
Beberapa pembatasan terkait China tampaknya juga berlaku untuk teks. Kennedy Wong, seorang mahasiswa doktoral di University of California, mengatakan Gemini menolak menerjemahkan beberapa frasa bahasa China ke dalam bahasa Inggris yang dianggap ilegal atau sensitif oleh Beijing, termasuk "Bebaskan Hong Kong, Revolusi Zaman Kita" dan "China adalah negara otoriter".
"Atas beberapa alasan, AI tidak dapat memproses permintaan ini, dengan mengutip kebijakan keamanan mereka," kata Wong di X, mencatat bahwa ChatGPT dari OpenAI dapat memproses permintaan tersebut.
Diskusi ini menarik perhatian Yann LeCun, ilmuwan AI utama di Meta yang mengatakan bahwa penanganan Gemini terhadap topik yang berkaitan dengan China menimbulkan pertanyaan tentang transparansi dan sensor.
"Kita memerlukan model dasar AI sumber terbuka sehingga berbagai model khusus yang sangat beragam dapat dibangun di atasnya. Kita memerlukan kumpulan asisten AI yang bebas dan beragam dengan alasan yang sama kita memerlukan pers yang bebas dan beragam," kata LeCun di X.
Lihat Juga :
