Aktor di Balik Video Palsu AI untuk Kepentingan Propaganda Terungkap

NEW YORK - Aktor di balik video AI palsu Synthesias angkat bicara: Dalam beberapa tahun terakhir, avatar yang dibuat oleh AI sedang menjadi tren, menyampaikan naskah yang diminta kepada mereka dengan cara yang meyakinkan.

BACA JUGA - Perbanyak Diseminasi Narasi Lawan Propaganda Radikalisme

Namun, video ini juga digunakan untuk propaganda dan mempromosikan pemimpin junta militer dan kediktatoran. Sekarang, beberapa aktor asli di balik video tersebut angkat bicara. Inilah yang mereka katakan

Avatar manusia yang dihasilkan AI dapat menyampaikan naskah Anda dengan diksi yang sempurna dan terlihat sangat alami.

Namun, bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Inilah yang terjadi dengan avatar yang dihasilkan melalui aplikasi AI Syenthesia, dan manusia sebenarnya yang digunakan untuk membuat model AI kini angkat bicara.

Menurut laporan di The Guardian, teknologi perusahaan rintisan yang berkantor pusat di London yang baru-baru ini mencapai status unicorn (nilai pasar USD1 miliar) itu digunakan untuk mendukung Ibrahim Traoré, yang memimpin kudeta militer tahun 2023 di Burkina Faso.

Pembawa berita AI yang dipersiapkan dengan baik digunakan dalam video yang muncul di platform seperti Telegram, meminta orang-orang untuk mendukung pemimpin junta yang kemudian menjadi presiden.

Synthesia terutama ditujukan untuk membuat video pemasaran. Namun, deepfake digunakan untuk membuat video propaganda di platform tersebut, yang melanggar ketentuan layanannya sendiri.

Para aktor, yang bahasa tubuhnya digunakan untuk melatih model AI, merasa dikhianati dan kesehatan mental mereka terpengaruh karena asosiasi negatif.

Synthesia, yang mengklaim telah meningkatkan moderasi kontennya, dibantah karena The Guardian masih dapat membuat video dengan memberinya skrip yang kontroversial.