3 Ancaman Teknologi AI Suara yang Wajib Diwaspadai di 2023

JAKARTA - Teknologi AI suara , seperti juga dengan asisten suara atau chatbot , bak dua mata pisau. Bisa menguntungkan manusia, bisa juga merugikan apabila disalahgunakan.

Viralnya “kloningan” suara Presiden Jokowi yang menyanyikan lagu seperti Cintamu Sepahit Topi Miring hingga Asmalibrasi ini memberikan gambaran terhadap risiko dan bahaya potensial jika teknologi AI suara ini disalahgunakan. Terutama, menjelang Pemilihan Presiden (Pilpres) 2024 mendatang.

Di Amerika, sejumlah kasus penyalahgunakan AI suara untuk penipuan sudah terjadi. Misalnya, Jennifer DeStefano yang dihubungi oleh nomor tidak dikenal yang mengaku sebagai putrinya. Kebetulan, Briana, putri Jennifer yang berusia 15 tahun sedang mengikuti kegiatan ski di luar kota.

”Setelah saya angkat, ada suara putri saya yang menangis, sambil memanggil, ‘mama, tolong saya, tolong saya, ada orang jahat yang menculik saya’,” cerita Jennifer. Ia mengatakan, penipu tersebut meminta tebusan sejumlah uang.

Jennifer mengaku percaya, karena suara penipu sangat mirip dengan putrinya. Untungnya, ia bisa memastikan bahwa putrinya Briana aman.

Pendiri Waye Sinead Bovell mengakui bahwa saat ini penjahat siber sangat mudah mengantongi identitas online. “Lalu, mereka menggunakan AI generator dan audio sintetis untuk menjalankan aksi penipuan. Dengan software yang tepat, suara kloning bisa dibuat dalam hitungan detik,” katanya.

“Kecerdasan buatan di tangan penjahat siber berpotensi meningkatkan rekayasa sosial secara eksponensial. Rekayas sosial adalah penipuan paling sukses yang pernah ada saat ini," kata Zane Bond, kepala produk di perusahaan keamanan siber Keeper Security.

Nah, berikut adalah beberapa hal yang harus diwaspadai terhadap perkembangan teknologi AI suara di 2023:

1. Penyebaran informasi palsu

Teknologi AI suara dapat digunakan untuk membuat suara palsu dan memalsukan percakapan atau rekaman suara asli. Hal ini memungkinkan penyebaran informasi palsu yang dapat menyebabkan kerugian atau bahkan membahayakan keselamatan seseorang atau kelompok orang.

2. Penipuan

Teknologi AI suara dapat digunakan untuk menipu orang dengan membuat percakapan yang seolah-olah berasal dari sumber yang sah atau terpercaya. Hal ini dapat digunakan untuk memperoleh informasi rahasia atau sensitif. Atau bahkan, menipu untuk mentransfer sejumlah uang tertentu.

3. Pelanggaran privasi

Teknologi AI suara dapat digunakan untuk merekam dan memonitor suara manusia tanpa persetujuan mereka. Hal ini dapat mengancam privasi seseorang dan dapat digunakan untuk tujuan yang tidak etisatauilegal.