Kejahatan AI Tidak Terkendali, Eropa Awasi Ketat Deepfake

BERLIN - Deepfake semakin canggih, menimbulkan kekhawatiran di Eropa tentang risiko penipuan, manipulasi informasi, dan pelanggaran privasi yang semakin tidak terkendali.

Deepfake – sebuah teknologi yang menggunakan kecerdasan buatan (AI) untuk menciptakan gambar,video, dan audio palsu guna meniru orang sungguhan – muncul sebagai ancaman sistemik di Eropa, yang menyebabkan konsekuensi serius bagi keamanan digital, privasi, dan ketertiban sosial.

Menurut lembaga pemantauan dan organisasi penelitian di Eropa, deepfake menciptakan "dampak ganda" yang mengkhawatirkan: mengikis kepercayaan publik terhadap informasi sekaligus memperluas ruang lingkup pelanggaran pribadi.

Yang membuat teknologi ini sangat berbahaya adalah kemampuannya untuk secara langsung mengeksploitasi refleks alami manusia—mempercayai apa yang mereka lihat dan dengar—sehingga garis antara kebenaran dan kebohongan semakin kabur.

Data pemantauan menunjukkan tingkat penyebaran yang mengkhawatirkan untuk fenomena ini. Dari lebih dari 2.000 kasus pengecekan fakta yang tercatat di Eropa tahun ini, hampir sepertiganya melibatkan konten yang dimanipulasi oleh AI.

Survei yang dilakukan oleh Organisasi untuk Kerja SamaEkonomidan Pembangunan (OECD) di 21 negara juga menunjukkan bahwa orang hanya secara akurat mengidentifikasi informasi yang benar dalam sekitar 60% kasus – sebuah kesenjangan yang signifikan dalam kemampuan mereka untuk membedakan informasi di lingkungan digital.

Berbeda dengan berita palsu biasa—yang dapat dideteksi dengan membandingkan sumber atau konteks—deepfake secara langsung menipu indra manusia karena kecanggihannya yang semakin meningkat.

Menurut kelompok riset Info-Tech, ini adalah generasi baru serangan siber yang mampu melewati banyak langkah keamanan tradisional dengan "menyusup" ke dalam kesadaran manusia, bukan sistem teknis.

Para ahli memperingatkan bahwa risiko kehilangan data, penipuan keuangan, manipulasipolitik, dan kerusakan reputasi organisasi meningkat dengan kecepatan yang mengkhawatirkan.

Selain risiko keamanan informasi, deepfake juga disalahgunakan secara serius dalam pelecehan seksual. Sebuah laporan PBB menunjukkan bahwa sebagian besar konten deepfake daring bersifat pornografi, dengan sekitar 98% video deepfake diidentifikasi sebagai pornografi tanpa persetujuan – dan hampir semuanya menargetkan perempuan.

Dana Anak-Anak Perserikatan Bangsa-Bangsa (UNICEF) melaporkan bahwa setidaknya 1,2 juta anak muda telah menjadi korban pembuatan gambar palsu yang berisi konten seksual eksplisit dalam setahun terakhir.

Di beberapa negara Eropa, penelitian menunjukkan bahwa hampir seperempat dari responden telah terpapar "deepnude"—gambar telanjang palsu yang beredar di platform seperti Instagram, Snapchat, atau X.

Yang lebih mengkhawatirkan, lebih dari 60% dari mereka yang pernah menggunakan alat ini mengakui telah mencoba membuat konten serupa, yang mencerminkan tren normalisasi perilaku berbahaya di lingkungan digital.

Di Belgia – sebuah negara yang dianggap mencerminkan tren umum di Eropa – sekitar 13% remaja yang disurvei melaporkan telah menerima konten "deepnude". Studi oleh Vrije University Brussel (VUB) juga mencatat penyebaran terbuka deepfake seksual di grup media sosial dan platform pesan.

Yang perlu diperhatikan, seorang anggota keluarga kerajaan Belgia pernah menjadi sasaran gambar deepfake yang dihasilkan oleh AI, sementara di Eropa, banyak anggota parlemen dan pejabat juga telah angkat bicara tentang penggunaan gambar mereka tanpa izin – menunjukkan bahwa deepfake tidak lagi terbatas pada korban anonim tetapi telah meluas hingga mencakup tokoh-tokoh berpengaruh.

Menanggapi situasi ini, banyak negara Eropa telah mengambil tindakan hukum. Di tingkat Uni Eropa (UE), Undang-Undang AI mewajibkan transparansi dan pelabelan konten yang dihasilkan AI, dan melarang penggunaan AI untuk membuat konten seksual tanpa persetujuan atau mengeksploitasi gambar anak-anak.

Undang-Undang Layanan Digital (DSA) juga memperkuat akuntabilitas platform, dengan sanksi yang dapat mencapai hingga 6% dari pendapatan global untuk pelanggaran.

Namun, para ahli menekankan bahwa tantangan terbesar terletak pada kesenjangan antara kecepatan perkembangan teknologi dan kemampuan hukum untuk beradaptasi. Hukum pada dasarnya bersifat reaktif, sementara deepfake dapat menyebar dan menimbulkan konsekuensi sebelum tindakan intervensi dapat diterapkan.

Dalam konteks ini, banyak ahli menyerukan agar Eropa beralih dari pendekatan pasif ke pendekatan proaktif, dengan menggabungkan kerangka hukum yang lebih baik, peningkatan akuntabilitas platform teknologi, pengembangan alat untuk mengidentifikasi konten palsu, dan peningkatan pendidikan literasi digital bagi warga negara.

Menurut para ahli, deepfake bukan hanya masalah teknologi tetapi juga tantangan sistemik, yang mencerminkan kegagalan tata kelola digital global – di mana pertanyaannya bukan hanya bagaimana mengendalikan teknologi, tetapi juga apakah masyarakat dapat mempertahankan kepercayaan terhadap informasi di era di mana "apa yang tampak nyata belum tentu benar."