Deepfake Semakin Sempurna dan Persaingan Kecerdasan AI Memanas

Saat ini, AI dapat menciptakan kembali gambar dan suara dengan akurasi yang sangat tinggi, bahkan mensimulasikan getaran halus dalam suara manusia. Dalam sebuah eksperimen oleh jurnalis Gaby Del Valle, hanya dengan menggunakan 9 detik audio yang dikumpulkan dari media sosial, sistem AI menciptakan versi palsu yang dapat melanjutkan percakapan hampir secara meyakinkan.

Dalam kehidupan sehari-hari, intuisi masih dapat membantu orang mendeteksi kejanggalan. Namun, di tempat kerja atau transaksi keuangan—di mana informasi diproses dengan cepat dan waktu sangat penting—tanda-tanda mencurigakan ini mudah diabaikan, sehingga meningkatkan risiko menjadi korban penipuan.

Deepfake tidak lagi terbatas pada konten hiburan daring; penjahat siber kini mengeksploitasinya untuk penipuan terorganisir. Mereka dapat mengumpulkan data yang tersedia untuk umum di media sosial untuk membangun "bank suara" karyawan di dalam suatu perusahaan, kemudian menggunakan AI untuk meniru pemimpin atau kolega untuk melakukan panggilan yang meminta transfer uang.

Kerugian akibat insiden ini sangat signifikan. Setiap penipuan deepfake dapat merugikan bisnis ratusan ribu dolar. Yang mengkhawatirkan, skenario tersebut sering kali memanfaatkan rasa urgensi korban – seperti berpura-pura menjadi orang terkasih untuk meminta bantuan – menyebabkan mereka lengah dalam waktu yang sangat singkat.

'Memadamkan api dengan api' menggunakan AI

Untuk mengatasi hal ini, banyak perusahaan rintisan keamanan memilih pendekatan terbalik: menggunakan AI itu sendiri untuk mendeteksi deepfake.