TikTok Bikin Kebijakan Baru Soal Penyalahgunakan Video AI untuk Hoax
loading...
Video deepfake Elon Musk yang viral di sejumlah media sosial. Foto: dok Fox43
A
A
A
JAKARTA - TikTok melakukan pembaruan di Panduan Komunitas mereka, berupaya menghadapi hal-hal baru yang sedang viral. Salah satunya adalah maraknya video kecerdasan buatan atau AI yang disebut TikTok sebagai video/media sintetis.
Video AI ini terkadang memang sangat sulit dibedakan dengan aslinya. Sebab, AI bisa menyerupai wajah bahkan suara asli.
Misalnya saja, seseorang bisa membuat video AI yang memperlihatkan Elon Musk berkomentar negatif soal Indonesia. Karena teknologi AI yang semakin canggih, penonton akan mengira Elon Musk benar-benar mengatakan hal tersebut. Padahal, itu adalah video hoax.
Belakangan, hal ini semakin marak di media sosial dan bisa berbahaya apabila disalahgunakan dalam Pilpres 2024.
Karena itu, TikTok buru-buru menelurkan kebijakan soal ini. “Kami menerima kreativitas yang diciptakan oleh kecerdasan buatan (AI) baru dan teknologi digital lain,” tulis keterangan resmi mereka.
“Namun, AI dapat menyulitkan pengguna membedakan antara fakta dan fiksi, sehingga menghadirkan risiko individu dan sosial. Media sintetis atau dimanipulasi yang menampilkan adegan realistis harus diungkap secara jelas. Hal ini dapat dilakukan melalui penggunaan stiker atau caption, misalnya menyertakan kata ‘sintetis’, ‘palsu’, ‘tidak ’nyata’, atau ‘editan’,”.
TikTok menyebut bahwa mereka berupaya untuk memberikan keseimpangan antara kebebasan berekspresi yang dimiliki media sintetis dengan risiko bahaya bagi individu.
“Kami tidak mengizinkan media sintetis yang menyerupai seorang individu di dunia nyata yang bukan merupakan tokoh publik (tokoh biasa) tokoh privat asli. Meski kami memberikan kebebasan lebih bagi terkait tokoh publik, kami tidak ingin tokoh tersebut menjadi subjek penyalahgunaan, atau digunakan untuk menyesatkan pengguna tentang masalah politik atau keuangan,”.
TikTok Juga tidak mengizinkan media sintetis yang menyerupai tokoh publik jika kontennya digunakan untuk promosi atau yang pelanggaran melanggar kebijakan lainnya.
Termasuk juga larangan ujaran kebencian, eksploitasi seksual, dan bentuk pelecehan yang parah.
Video AI ini terkadang memang sangat sulit dibedakan dengan aslinya. Sebab, AI bisa menyerupai wajah bahkan suara asli.
Misalnya saja, seseorang bisa membuat video AI yang memperlihatkan Elon Musk berkomentar negatif soal Indonesia. Karena teknologi AI yang semakin canggih, penonton akan mengira Elon Musk benar-benar mengatakan hal tersebut. Padahal, itu adalah video hoax.
Belakangan, hal ini semakin marak di media sosial dan bisa berbahaya apabila disalahgunakan dalam Pilpres 2024.
Karena itu, TikTok buru-buru menelurkan kebijakan soal ini. “Kami menerima kreativitas yang diciptakan oleh kecerdasan buatan (AI) baru dan teknologi digital lain,” tulis keterangan resmi mereka.
“Namun, AI dapat menyulitkan pengguna membedakan antara fakta dan fiksi, sehingga menghadirkan risiko individu dan sosial. Media sintetis atau dimanipulasi yang menampilkan adegan realistis harus diungkap secara jelas. Hal ini dapat dilakukan melalui penggunaan stiker atau caption, misalnya menyertakan kata ‘sintetis’, ‘palsu’, ‘tidak ’nyata’, atau ‘editan’,”.
TikTok menyebut bahwa mereka berupaya untuk memberikan keseimpangan antara kebebasan berekspresi yang dimiliki media sintetis dengan risiko bahaya bagi individu.
“Kami tidak mengizinkan media sintetis yang menyerupai seorang individu di dunia nyata yang bukan merupakan tokoh publik (tokoh biasa) tokoh privat asli. Meski kami memberikan kebebasan lebih bagi terkait tokoh publik, kami tidak ingin tokoh tersebut menjadi subjek penyalahgunaan, atau digunakan untuk menyesatkan pengguna tentang masalah politik atau keuangan,”.
TikTok Juga tidak mengizinkan media sintetis yang menyerupai tokoh publik jika kontennya digunakan untuk promosi atau yang pelanggaran melanggar kebijakan lainnya.
Termasuk juga larangan ujaran kebencian, eksploitasi seksual, dan bentuk pelecehan yang parah.
Explore More