Aktor di Balik Video Palsu AI untuk Kepentingan Propaganda Terungkap
Kamis, 17 Oktober 2024 - 21:10 WIB
loading...
Video Palsu AI . FOTO/ WION NEWS
A
A
A
NEW YORK - Aktor di balik video AI palsu Synthesias angkat bicara: Dalam beberapa tahun terakhir, avatar yang dibuat oleh AI sedang menjadi tren, menyampaikan naskah yang diminta kepada mereka dengan cara yang meyakinkan.
BACA JUGA - Perbanyak Diseminasi Narasi Lawan Propaganda Radikalisme
Namun, video ini juga digunakan untuk propaganda dan mempromosikan pemimpin junta militer dan kediktatoran. Sekarang, beberapa aktor asli di balik video tersebut angkat bicara. Inilah yang mereka katakan
Avatar manusia yang dihasilkan AI dapat menyampaikan naskah Anda dengan diksi yang sempurna dan terlihat sangat alami.
Namun, bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Inilah yang terjadi dengan avatar yang dihasilkan melalui aplikasi AI Syenthesia, dan manusia sebenarnya yang digunakan untuk membuat model AI kini angkat bicara.
Menurut laporan di The Guardian, teknologi perusahaan rintisan yang berkantor pusat di London yang baru-baru ini mencapai status unicorn (nilai pasar USD1 miliar) itu digunakan untuk mendukung Ibrahim Traoré, yang memimpin kudeta militer tahun 2023 di Burkina Faso.
Pembawa berita AI yang dipersiapkan dengan baik digunakan dalam video yang muncul di platform seperti Telegram, meminta orang-orang untuk mendukung pemimpin junta yang kemudian menjadi presiden.
Synthesia terutama ditujukan untuk membuat video pemasaran. Namun, deepfake digunakan untuk membuat video propaganda di platform tersebut, yang melanggar ketentuan layanannya sendiri.
Para aktor, yang bahasa tubuhnya digunakan untuk melatih model AI, merasa dikhianati dan kesehatan mental mereka terpengaruh karena asosiasi negatif.
Synthesia, yang mengklaim telah meningkatkan moderasi kontennya, dibantah karena The Guardian masih dapat membuat video dengan memberinya skrip yang kontroversial.
Video Synthesia digunakan dalam penyebaran informasi yang salah oleh negara-negara termasuk Rusia dan China.
Dua video pro-Venezuela yang menampilkan segmen berita palsu yang disajikan oleh avatar Synthesia muncul di YouTube dan Facebook. Salah satu pembawa acara palsu mengecam "klaim media barat" tentang ketidakstabilan ekonomi dan kemiskinan di Venezuela.
Dalam satu video, avatar AI mengatakan bahwa dia adalah kepala eksekutif platform mata uang kripto.
Mark Torres, aktor yang menjadi model di balik video Burkina Faso, mengatakan kepada The Guardian bahwa ia merasa dilecehkan dan rentan melihat gambarnya direbut.
"Saya terkejut, tidak ada kata-kata yang bisa saya katakan sekarang... Saya tidak pernah merasa begitu dilecehkan dan rentan," kata Torres sebagaimana dikutip The Guardian.
"Saya tidak ingin ada yang melihat saya seperti itu. Fakta bahwa foto saya ada di luar sana, bisa mengatakan apa saja... Orang-orang akan mengira saya terlibat dalam kudeta," tambah Torres.
"Mengetahui bahwa perusahaan yang saya percayai citranya akan lolos begitu saja membuat saya sangat marah. Ini berpotensi merenggut nyawa, merenggut nyawa saya saat melintasi perbatasan untuk imigrasi."
"Itu bukan saya, itu hanya wajah saya. Namun, mereka akan mengira saya telah menyetujuinya," kata Dan Dewhirst, yang berperan dalam pembuatan jangkar asli yang digunakan dalam video Venezuela.
“Banyak sekali orang yang menghubungi saya mengenai hal ini … Namun, mungkin ada juga orang lain yang melihatnya dan tidak mengatakan apa pun, atau diam-diam menghakimi saya karenanya."
"Saya sangat marah. Itu benar-benar merusak kesehatan mental saya," katanya, seraya menambahkan bahwa hal itu menyebabkan kecemasan yang luar biasa.
The Guardian juga mengutip mantan karyawan Synthesia yang tidak disebutkan namanya, yang mengatakan bahwa AI tidak dapat melupakan apa yang telah dilatihnya untuk membuat model berdasarkan bahasa tubuh orang sungguhan.
Itu akan memerlukan penghapusan model AI secara menyeluruh, katanya.
Synthesia memberi tahu surat kabar itu bahwa mereka tidak mengizinkan avatar stok untuk konten politik, termasuk 'konten yang akurat secara faktual tetapi dapat menciptakan polarisasi'.
Didirikan pada tahun 2017 oleh tim yang terdiri dari Victor Riparbelli dan Steffen Tjerrild, klien Synthesia meliputi Microsoft, Zoom, Xerox, dan Ernst & Young.
BACA JUGA - Perbanyak Diseminasi Narasi Lawan Propaganda Radikalisme
Namun, video ini juga digunakan untuk propaganda dan mempromosikan pemimpin junta militer dan kediktatoran. Sekarang, beberapa aktor asli di balik video tersebut angkat bicara. Inilah yang mereka katakan
Avatar manusia yang dihasilkan AI dapat menyampaikan naskah Anda dengan diksi yang sempurna dan terlihat sangat alami.
Namun, bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Inilah yang terjadi dengan avatar yang dihasilkan melalui aplikasi AI Syenthesia, dan manusia sebenarnya yang digunakan untuk membuat model AI kini angkat bicara.
Menurut laporan di The Guardian, teknologi perusahaan rintisan yang berkantor pusat di London yang baru-baru ini mencapai status unicorn (nilai pasar USD1 miliar) itu digunakan untuk mendukung Ibrahim Traoré, yang memimpin kudeta militer tahun 2023 di Burkina Faso.
Pembawa berita AI yang dipersiapkan dengan baik digunakan dalam video yang muncul di platform seperti Telegram, meminta orang-orang untuk mendukung pemimpin junta yang kemudian menjadi presiden.
Synthesia terutama ditujukan untuk membuat video pemasaran. Namun, deepfake digunakan untuk membuat video propaganda di platform tersebut, yang melanggar ketentuan layanannya sendiri.
Para aktor, yang bahasa tubuhnya digunakan untuk melatih model AI, merasa dikhianati dan kesehatan mental mereka terpengaruh karena asosiasi negatif.
Synthesia, yang mengklaim telah meningkatkan moderasi kontennya, dibantah karena The Guardian masih dapat membuat video dengan memberinya skrip yang kontroversial.
Video Synthesia digunakan dalam penyebaran informasi yang salah oleh negara-negara termasuk Rusia dan China.
Dua video pro-Venezuela yang menampilkan segmen berita palsu yang disajikan oleh avatar Synthesia muncul di YouTube dan Facebook. Salah satu pembawa acara palsu mengecam "klaim media barat" tentang ketidakstabilan ekonomi dan kemiskinan di Venezuela.
Dalam satu video, avatar AI mengatakan bahwa dia adalah kepala eksekutif platform mata uang kripto.
Mark Torres, aktor yang menjadi model di balik video Burkina Faso, mengatakan kepada The Guardian bahwa ia merasa dilecehkan dan rentan melihat gambarnya direbut.
"Saya terkejut, tidak ada kata-kata yang bisa saya katakan sekarang... Saya tidak pernah merasa begitu dilecehkan dan rentan," kata Torres sebagaimana dikutip The Guardian.
"Saya tidak ingin ada yang melihat saya seperti itu. Fakta bahwa foto saya ada di luar sana, bisa mengatakan apa saja... Orang-orang akan mengira saya terlibat dalam kudeta," tambah Torres.
"Mengetahui bahwa perusahaan yang saya percayai citranya akan lolos begitu saja membuat saya sangat marah. Ini berpotensi merenggut nyawa, merenggut nyawa saya saat melintasi perbatasan untuk imigrasi."
"Itu bukan saya, itu hanya wajah saya. Namun, mereka akan mengira saya telah menyetujuinya," kata Dan Dewhirst, yang berperan dalam pembuatan jangkar asli yang digunakan dalam video Venezuela.
“Banyak sekali orang yang menghubungi saya mengenai hal ini … Namun, mungkin ada juga orang lain yang melihatnya dan tidak mengatakan apa pun, atau diam-diam menghakimi saya karenanya."
"Saya sangat marah. Itu benar-benar merusak kesehatan mental saya," katanya, seraya menambahkan bahwa hal itu menyebabkan kecemasan yang luar biasa.
The Guardian juga mengutip mantan karyawan Synthesia yang tidak disebutkan namanya, yang mengatakan bahwa AI tidak dapat melupakan apa yang telah dilatihnya untuk membuat model berdasarkan bahasa tubuh orang sungguhan.
Itu akan memerlukan penghapusan model AI secara menyeluruh, katanya.
Synthesia memberi tahu surat kabar itu bahwa mereka tidak mengizinkan avatar stok untuk konten politik, termasuk 'konten yang akurat secara faktual tetapi dapat menciptakan polarisasi'.
Didirikan pada tahun 2017 oleh tim yang terdiri dari Victor Riparbelli dan Steffen Tjerrild, klien Synthesia meliputi Microsoft, Zoom, Xerox, dan Ernst & Young.
(wbs)
Lihat Juga :
