TikTok Bikin Kebijakan Baru Soal Penyalahgunakan Video AI untuk Hoax
Rabu, 22 Maret 2023 - 21:35 WIB
loading...
Video deepfake Elon Musk yang viral di sejumlah media sosial. Foto: dok Fox43
A
A
A
JAKARTA - TikTok melakukan pembaruan di Panduan Komunitas mereka, berupaya menghadapi hal-hal baru yang sedang viral. Salah satunya adalah maraknya video kecerdasan buatan atau AI yang disebut TikTok sebagai video/media sintetis.
Video AI ini terkadang memang sangat sulit dibedakan dengan aslinya. Sebab, AI bisa menyerupai wajah bahkan suara asli.
Misalnya saja, seseorang bisa membuat video AI yang memperlihatkan Elon Musk berkomentar negatif soal Indonesia. Karena teknologi AI yang semakin canggih, penonton akan mengira Elon Musk benar-benar mengatakan hal tersebut. Padahal, itu adalah video hoax.
Belakangan, hal ini semakin marak di media sosial dan bisa berbahaya apabila disalahgunakan dalam Pilpres 2024.
Karena itu, TikTok buru-buru menelurkan kebijakan soal ini. “Kami menerima kreativitas yang diciptakan oleh kecerdasan buatan (AI) baru dan teknologi digital lain,” tulis keterangan resmi mereka.
“Namun, AI dapat menyulitkan pengguna membedakan antara fakta dan fiksi, sehingga menghadirkan risiko individu dan sosial. Media sintetis atau dimanipulasi yang menampilkan adegan realistis harus diungkap secara jelas. Hal ini dapat dilakukan melalui penggunaan stiker atau caption, misalnya menyertakan kata ‘sintetis’, ‘palsu’, ‘tidak ’nyata’, atau ‘editan’,”.
TikTok menyebut bahwa mereka berupaya untuk memberikan keseimpangan antara kebebasan berekspresi yang dimiliki media sintetis dengan risiko bahaya bagi individu.
“Kami tidak mengizinkan media sintetis yang menyerupai seorang individu di dunia nyata yang bukan merupakan tokoh publik (tokoh biasa) tokoh privat asli. Meski kami memberikan kebebasan lebih bagi terkait tokoh publik, kami tidak ingin tokoh tersebut menjadi subjek penyalahgunaan, atau digunakan untuk menyesatkan pengguna tentang masalah politik atau keuangan,”.
TikTok Juga tidak mengizinkan media sintetis yang menyerupai tokoh publik jika kontennya digunakan untuk promosi atau yang pelanggaran melanggar kebijakan lainnya.
Termasuk juga larangan ujaran kebencian, eksploitasi seksual, dan bentuk pelecehan yang parah.
TikTok menyebut bahwa pembaruan terkait Panduan Komunitas ini dilakukan setelah berkonsultasi dengan lebih dari 100 organisasi di seluruh dunia, termasuk Regional Safety Advisory Councils, International Association for Suicide Prevention (IASP), dan anggota Komunitas TikTok.
Baca Juga: Google Hadirkan Fitur-fitur Baru yang Ditenagai AI, Mulai dari Gmail hingga Dokumen
“Pembaruan ini antara lain aturan tentang cara TikTok memperlakukan konten yang dibuat atau dimodifikasi dengan teknologi AI, menambahkan ‘suku’ sebagai atribut yang dilindungi dalam kebijakan TikTok, serta kinerja TikTok dalam melindungi integritas sipil dan pemilu, termasuk akun pemerintah, politisi, dan partai politik,”.
Panduan Komunitas nbaru ini akan diberlakukan mulai 21 April 2023. Selama beberapa bulan ke depan, TikTok pun akan memberi pelatihan tambahan kepada para moderator TikTok agar dapat membantu menegakkan aturan dan standar yang diperbarui ini secara efektif ketika panduan tersebut mulaidiberlakukan.
Video AI ini terkadang memang sangat sulit dibedakan dengan aslinya. Sebab, AI bisa menyerupai wajah bahkan suara asli.
Misalnya saja, seseorang bisa membuat video AI yang memperlihatkan Elon Musk berkomentar negatif soal Indonesia. Karena teknologi AI yang semakin canggih, penonton akan mengira Elon Musk benar-benar mengatakan hal tersebut. Padahal, itu adalah video hoax.
Belakangan, hal ini semakin marak di media sosial dan bisa berbahaya apabila disalahgunakan dalam Pilpres 2024.
Karena itu, TikTok buru-buru menelurkan kebijakan soal ini. “Kami menerima kreativitas yang diciptakan oleh kecerdasan buatan (AI) baru dan teknologi digital lain,” tulis keterangan resmi mereka.
“Namun, AI dapat menyulitkan pengguna membedakan antara fakta dan fiksi, sehingga menghadirkan risiko individu dan sosial. Media sintetis atau dimanipulasi yang menampilkan adegan realistis harus diungkap secara jelas. Hal ini dapat dilakukan melalui penggunaan stiker atau caption, misalnya menyertakan kata ‘sintetis’, ‘palsu’, ‘tidak ’nyata’, atau ‘editan’,”.
TikTok menyebut bahwa mereka berupaya untuk memberikan keseimpangan antara kebebasan berekspresi yang dimiliki media sintetis dengan risiko bahaya bagi individu.
“Kami tidak mengizinkan media sintetis yang menyerupai seorang individu di dunia nyata yang bukan merupakan tokoh publik (tokoh biasa) tokoh privat asli. Meski kami memberikan kebebasan lebih bagi terkait tokoh publik, kami tidak ingin tokoh tersebut menjadi subjek penyalahgunaan, atau digunakan untuk menyesatkan pengguna tentang masalah politik atau keuangan,”.
TikTok Juga tidak mengizinkan media sintetis yang menyerupai tokoh publik jika kontennya digunakan untuk promosi atau yang pelanggaran melanggar kebijakan lainnya.
Termasuk juga larangan ujaran kebencian, eksploitasi seksual, dan bentuk pelecehan yang parah.
TikTok menyebut bahwa pembaruan terkait Panduan Komunitas ini dilakukan setelah berkonsultasi dengan lebih dari 100 organisasi di seluruh dunia, termasuk Regional Safety Advisory Councils, International Association for Suicide Prevention (IASP), dan anggota Komunitas TikTok.
Baca Juga: Google Hadirkan Fitur-fitur Baru yang Ditenagai AI, Mulai dari Gmail hingga Dokumen
“Pembaruan ini antara lain aturan tentang cara TikTok memperlakukan konten yang dibuat atau dimodifikasi dengan teknologi AI, menambahkan ‘suku’ sebagai atribut yang dilindungi dalam kebijakan TikTok, serta kinerja TikTok dalam melindungi integritas sipil dan pemilu, termasuk akun pemerintah, politisi, dan partai politik,”.
Panduan Komunitas nbaru ini akan diberlakukan mulai 21 April 2023. Selama beberapa bulan ke depan, TikTok pun akan memberi pelatihan tambahan kepada para moderator TikTok agar dapat membantu menegakkan aturan dan standar yang diperbarui ini secara efektif ketika panduan tersebut mulaidiberlakukan.
(dan)
Lihat Juga :
