Meta Akui AI Voicebox Miliknya Masih Terlalu Berbahaya untuk Dirilis

CUPERTINO - Meta baru saja mengumumkan alat AI yang disebut Voicebox', yang diklaimnya merupakan terobosan dalam pembuatan ucapan bertenaga AI. Namun belum dirilis, raksasa teknologi itu menyebut Voicebox terlalu berbahaya dan bisa menjadi bencana.-



Untuk diketahui, Voicebox saat ini dapat menghasilkan klip audio ucapan dalam enam bahasa (semuanya berasal dari Eropa), dan menurut posting blog dari Meta ini adalah model AI pertama dari jenisnya yang mampu menyelesaikan tugas melebihi sebelumnya.

Meta mengklaim bahwa Voicebox dengan mudah mengungguli AI generasi ucapan yang bersaing di hampir setiap area. Di mana Voicebox dapat memuntahkan replikasi text-to-speech yang cukup akurat dari suara seseorang menggunakan file audio sampel sesingkat dua detik.

Dengan kemampuannya itu, Voicebox tentu bisa menjadi jenis teknologi yang dapat memulai sebuah perang. Meta percaya bahwa alat barunya cukup baik untuk membodohi setidaknya sebagian besar orang meskipun tidak efektif secara sempurna.

Sebagaimana dirangkum dari Techradar, Selasa (20/6/2023), hal ini diperparah mengingat sebagian besar tokoh masyarakat, termasuk politisi, memiliki banyak rekaman audio yang beredar di internet. Tidak akan sulit untuk mengumpulkan beberapa klip pidato tersebut.

Ada banyak rekaman dari seorang pemimpin politik petahana. Menggunakan Voicebox untuk menghasilkan replikasi suara mereka yang sangat realistis menjadi sesuatu yang sangat mudah yang mana kemudian dapat digunakan untuk tujuan jahat.

Sementara Meta sangat ingin menekankan bahwa ia mengenali potensi penyalahgunaan dan bahaya yang tidak disengaja di sekitar alat seperti Voicebox, penting untuk tidak melupakan potensi manfaat yang dapat dihasilkan oleh generasi ucapan AI di masa mendatang.

Voicebox, sesuai dengan namanya -dapat memberikan ucapan yang jauh lebih naturalistik kepada orang-orang yang bisu atau tidak dapat berkomunikasi, menghilangkan beberapa hambatan interaksi yang disebabkan oleh 'suara robot' text-to-speech yang dipopulerkan oleh fisikawan Stephen Hawking.

Meta menjelaskan dalam postingan blognya bahwa Voicebox dapat digunakan untuk mengedit dan menyempurnakan rekaman ucapan. Jika pengguna telah merekam beberapa audio tetapi salah mengucapkan kata atau terganggu oleh kebisingan latar belakang, Voicebox dapat menjadi solusi.