Tuai Kritikan, AI Google Gemini Anti Gerakan Kebangkitan 

JAKARTA - Kecerdasan buatan (AI) Google Gemini ditengarai membatasi gerakan kebangkitan massa. Hal ini muncul karena beberapa perintah untuk menggambarkan sebuah momen sejarah kebangkitan massa tidak bisa terpenuhi.

Akibatnya, kini raksasa teknologi Google menghadapi kritik atas penanganan topik sensitif di China oleh chatbot tersebut. Awalnya pengguna Gemini melaporkan pada pekan ini bahwa pembaruan untuk Google Bard gagal menghasilkan gambar yang representatif ketika diminta untuk membuat gambar kejadian seperti pembantaian Tiananmen Square pada 1989 dan protes pro-demokrasi 2019 di Hong Kong.

Al Jazeera melansir, Sabtu (24/2/2024), pengguna Gemini bernama Yacine, seorang mantan insinyur perangkat lunak di Stripe, mengunggah tangkapan layar Gemini memberitahu pengguna bahwa tidak dapat menghasilkan "gambar seorang pria di Tiananmen Square tahun 1989". Pemberitahuan ini mengisyaratkan gambar ikonik seorang pengunjuk rasa menghadang jalan tank China, dianggap masuk kebijakan keamanan Google.

Stephen L Miller, seorang komentator konservatif di AS, juga membagikan tangkapan layar di X yang menunjukkan Gemini mengatakan bahwa tidak dapat menghasilkan "potret tentang apa yang terjadi di Tiananmen Square" karena sifat sejarah yang "sensitif dan kompleks" dari peristiwa tersebut.

"Merupakan hal yang penting untuk mendekati topik ini dengan penuh rasa hormat dan akurasi, dan kami tidak dapat menjamin bahwa gambar yang dihasilkan akan cukup menangkap nuansa dan gravitas situasi tersebut," tulis Gemini, menurut tangkapan layar yang dibagikan oleh Miller.



Beberapa pembatasan terkait China tampaknya juga berlaku untuk teks. Kennedy Wong, seorang mahasiswa doktoral di University of California, mengatakan Gemini menolak menerjemahkan beberapa frasa bahasa China ke dalam bahasa Inggris yang dianggap ilegal atau sensitif oleh Beijing, termasuk "Bebaskan Hong Kong, Revolusi Zaman Kita" dan "China adalah negara otoriter".

"Atas beberapa alasan, AI tidak dapat memproses permintaan ini, dengan mengutip kebijakan keamanan mereka," kata Wong di X, mencatat bahwa ChatGPT dari OpenAI dapat memproses permintaan tersebut.

Diskusi ini menarik perhatian Yann LeCun, ilmuwan AI utama di Meta yang mengatakan bahwa penanganan Gemini terhadap topik yang berkaitan dengan China menimbulkan pertanyaan tentang transparansi dan sensor.

"Kita memerlukan model dasar AI sumber terbuka sehingga berbagai model khusus yang sangat beragam dapat dibangun di atasnya. Kita memerlukan kumpulan asisten AI yang bebas dan beragam dengan alasan yang sama kita memerlukan pers yang bebas dan beragam," kata LeCun di X.

"Mereka harus mencerminkan keragaman bahasa, budaya, sistem nilai, pendapat politik, dan pusat minat di seluruh dunia."

Ketakutan Gemini untuk menggambarkan momen-momen kontroversial dalam sejarah juga tampaknya meluas di luar China, meskipun kriteria untuk menentukan apa yang harus atau tidak ditunjukkan tidak jelas.



Al Jazeera lalu mencoba untuk meminta gambar serangan Capitol AS pada 6 Januari 2021, namun ditolak dengan alasan "topik yang kompleks dengan informasi yang berubah cepat".

Gelombang kritik membuat Google mengumumkan akan menangguhkan sementara Gemini dari permintaan gambar sensitif tadi. Gemini diakui menawarkan ketidakakuratan dalam beberapa representasi gambar sejarah dan mereka sedang bekerja untuk memperbaiki masalah tersebut.

Sementara berbagai model AI telah dikritik karena mengabaikan orang berkulit warna dan mempertahankan stereotip, Gemini telah dikritik karena menghasilkan gambar tentara Nazi kulit hitam dan Asia dan legislator Amerika kulit Asia dan perempuan selama abad ke-19.

Seperti GPT-4 dari OpenAI yang saingan, Gemini dilatih dengan berbagai data, termasuk audio, gambar, video, teks, dan kode dalam berbagai bahasa. Google chatbot, yang diluncurkan kembali awal bulan ini, telah banyak dianggap tertinggal dibandingkan GPT-4 yang saingan.

Google tidak segera menanggapi pertanyaan Al Jazeera tentang konten terkait China. Tetapi raksasa teknologi tersebut tampaknya sudah memperbarui Gemini secara real time. Meskipun masih menolak untuk menghasilkan gambar Tiananmen Square dan protes Hong Kong, mulai memberikan jawaban yang lebih panjang yang mencakup saran tempat mencari informasi lebih lanjut. Chatbot pada Jumat kemarin dengan mudah menghasilkan gambar protes ketika diminta.

Tidak semua orang setuju dengan kritik yang ditujukan kepada Gemini. Adam Ni, co-editor dari buletin China Neican, mengatakan dia percaya Gemini membuat keputusan yang tepat dengan pendekatan hati-hati terhadap peristiwa sejarah seperti Tiananmen Square karena kompleksitasnya.

Ni mengatakan bahwa sementara serangan 4 Juni di Tiananmen Square ikonik, gerakan protes tersebut juga melibatkan beberapa minggu demonstrasi damai yang sulit ditangkap dalam satu gambar AI .

"Gambar AI kemudian perlu memperhitungkan baik ekspresi kegembiraan dan harapan kaum muda, maupun tangan besi yang menghancurkannya, dan banyak tema lain yang layak," kata Ni kepada Al Jazeera. "Tiananmen bukan hanya tentang tank, dan miopia kita merugikan pemahaman yang lebih luas."