Deepfake Semakin Sempurna dan Persaingan Kecerdasan AI Memanas

BEIJING - Deepfake semakin canggih, memaksa perusahaan rintisan keamanan untuk menggunakan AI guna mendeteksi dan mencegahnya, sehingga memicu persaingan teknologi yang sengit.


Perjuangan melawan Deepfake saat AI menjadi "senjata" sekaligus "perisai"
Di era AI, konfrontasi antara penjahat siber dan perusahaan keamanan bukan lagi sekadar perlombaan teknologi, tetapi upaya untuk mendapatkan kembali kepercayaan yang terkikis oleh konten palsu yang semakin caonggih.

Ketika apa yang Anda lihat dan dengar tidak lagi dapat dipercaya.
Beberapa tahun yang lalu, pengguna dapat mengidentifikasi deepfake melalui tanda-tanda yang agak "kasar" seperti ekspresi wajah yang tidak alami, gerakan mulut yang tidak sinkron, atau gerakan mata yang tidak biasa. Namun, metode ini dengan cepat menjadi usang seiring perkembangan teknologi AI.

Saat ini, AI dapat menciptakan kembali gambar dan suara dengan akurasi yang sangat tinggi, bahkan mensimulasikan getaran halus dalam suara manusia. Dalam sebuah eksperimen oleh jurnalis Gaby Del Valle, hanya dengan menggunakan 9 detik audio yang dikumpulkan dari media sosial, sistem AI menciptakan versi palsu yang dapat melanjutkan percakapan hampir secara meyakinkan.

Dalam kehidupan sehari-hari, intuisi masih dapat membantu orang mendeteksi kejanggalan. Namun, di tempat kerja atau transaksi keuangan—di mana informasi diproses dengan cepat dan waktu sangat penting—tanda-tanda mencurigakan ini mudah diabaikan, sehingga meningkatkan risiko menjadi korban penipuan.