Deepfake Semakin Sempurna dan Persaingan Kecerdasan AI Memanas

Deepfake tidak lagi terbatas pada konten hiburan daring; penjahat siber kini mengeksploitasinya untuk penipuan terorganisir. Mereka dapat mengumpulkan data yang tersedia untuk umum di media sosial untuk membangun "bank suara" karyawan di dalam suatu perusahaan, kemudian menggunakan AI untuk meniru pemimpin atau kolega untuk melakukan panggilan yang meminta transfer uang.

Kerugian akibat insiden ini sangat signifikan. Setiap penipuan deepfake dapat merugikan bisnis ratusan ribu dolar. Yang mengkhawatirkan, skenario tersebut sering kali memanfaatkan rasa urgensi korban – seperti berpura-pura menjadi orang terkasih untuk meminta bantuan – menyebabkan mereka lengah dalam waktu yang sangat singkat.

'Memadamkan api dengan api' menggunakan AI
Untuk mengatasi hal ini, banyak perusahaan rintisan keamanan memilih pendekatan terbalik: menggunakan AI itu sendiri untuk mendeteksi deepfake.

Salah satu pendekatan umum adalah model "guru-murid" dalam pembelajaran mesin. Sistem dilatih menggunakan sejumlah besar data nyata dan palsu untuk mempelajari cara mengidentifikasi jejak teknis yang tidak dapat dilihat manusia dengan mata telanjang.

Pendekatan ini menciptakan lingkaran setan: seiring semakin canggihnya deepfake, sistem deteksi harus terus ditingkatkan agar tetap bisa bersaing. Oleh karena itu, perlombaan ini tampaknya tidak akan pernah berakhir.