Microsoft Tuduh Agen China Gunakan Foto AI untuk Kelabui Pemilih AS

WASHINGTON - Analisis Microsoft menyebutkan bahwa agen China menggunakan AI generatif untuk membuat konten viral yang memecah-belah pemilih Amerika Serikat (AS) di media sosial. Para analis dari AS mengingatkan untuk waspada terhadap ancaman digital dari China dan Korea Utara yang semakin canggih.

Analis Microsoft menyebutkan sejak Maret 2023 agen mata-mata China menggunakan foto AI untuk mengelabui pemilih AS dan membuat mereka saling bermusuhan. Microsoft memperingatkan akun media sosial yang berafiliasi dengan Partai Komunis China, yang akan memposting gambar yang dihasilkan AI seperti poster Black Lives Matter.

“Kami telah mengamati aktor-aktor yang berafiliasi dengan China memanfaatkan media visual yang dihasilkan AI dalam kampanye luas. Sebagian besar berfokus pada topik-topik yang memecah belah secara politik, seperti kekerasan senjata, dan merendahkan tokoh dan simbol politik AS,” tulis Clint Watts, Manajer Umum Microsoft Threat Pusat Analisis dikutip dari laman Businessinsider, Jumat (8/9/2023).



Microsoft mencontohkan penggunaan poster Patung Liberty yang dibuat oleh AI sambil memegang senapan serbu, bersama dengan teks "Dewi Kekerasan". Analis Microsoft mengatakan itu diposting oleh akun yang dicurigai dijalankan sebagai operasi pengaruh China.

“Konten visual yang relatif berkualitas tinggi ini telah menarik tingkat keterlibatan yang lebih tinggi dari pengguna media sosial asli,” para analis memperingatkan.

Mereka menambahkan bahwa gambar-gambar baru ini lebih menarik perhatian, dan para pemilih AS sebenarnya mem-posting ulang gambar-gambar tersebut. Meskipun gambar-gambar tersebut mengandung “indikator umum generasi AI,” seperti lebih dari lima jari di tangan.

Analis Microsoft mengakui saat ini semakin sulit untuk mengatakan bahwa akun-akun tersebut tidak asli. Namun, ada tanda-menurut Microsoft. Banyak dari agen ini mulai memposting dalam bahasa Mandarin, kemudian beralih ke bahasa lain.



Akun-akun tersebut akan membuat postingan, lalu berkomentar, menyukai, dan berbagi postingan dari akun serupa lainnya. Kondisi ini menciptakan pola di mana mereka akan saling meningkatkan konten satu sama lain.