Deepfake Porn, Dampak Buruk Teknologi AI yang Sangat Meresahkan
loading...
Ilustrasi pornografi. Foto: Istimewa
A
A
A
JAKARTA - Digunakannya teknologi kecerdasan buatan atau artificial intelligence sebagai konten porno melalui deepfake membuat para ahli khawatir. Inilah salah satu sisi negatif dari AI tersebut.
Dilansir dari ABC News, teknologi AI memiliki sisi gelap yang jika salah digunakan akan merugikan masyarakat.
"Para ahli takut sisi gelap dari alat yang mudah diakses ini dapat memperburuk sesuatu yang membahayakan wanita: pornografi deepfake nonkonsensual," tulis laman itu, dikutip Senin (17/4/2023).
Deepfake adalah video dan gambar yang dibuat secara digital atau diubah dengan kecerdasan buatan. Deepfake porno ini telah menyebar di internet beberapa tahun lalu dengan wajah selebriti wanita oleh pengguna Reddit.
Parahnya lagi, sejak itu pencipta deepfake seakan makin diminati dengan menyebarkan video dan gambar serupa yang menargetkan influencer online, jurnalis dan tokoh publik lainnya.
"Ribuan video sudah tersebar di sejumlah besar situs web dan beberapa telah menawarkan pengguna kesempatan untuk membuat gambar mereka sendiri, untuk dijadikan fantasi seksual tanpa persetujuan mereka," jelasnya.
Adam Dodge, pendiri Endtab mengatakan, membuat deepfake semakin mudah dengan makin pesatnya teknologi.
"Kenyataannya, adalah bahwa teknologi akan terus berkembang, dan menjadi semudah menekan tombol. Selama itu terjadi, tidak diragukan lagi akan ada menyalahgunakan teknologi untuk menyakiti orang lain," jelasnya.
Noelle Martin (28), warga Perth, Australia, telah menjadi korban dampak buruk dari AI. Dia menemukan porno deepfake dari dirinya saat berselancar dengan Google.
"Saat tidak tahu siapa yang membuat gambar palsu, atau video dalam hubungan seksual itu. Tetapi saya curiga seseorang telah mengambil gambar yang diposting di halaman media saya," sambungnya.
Sementara itu, beberapa model AI mengatakan, mereka sudah mengekang akses ke gambar eksplisit. OpenAI mengatakan, itu menghapus konten eksplisit dari data yang digunakan untuk pembuatan gambar Dall-E.
"Ini membatasi kemampuan pengguna untuk membuat jenis gambar tersebut. Perusahaan juga menyaring permintaan dan memblokir pengguna dari membuat gambar AI selebriti dan politisi terkemuka," tukas laman itu.
Dilansir dari ABC News, teknologi AI memiliki sisi gelap yang jika salah digunakan akan merugikan masyarakat.
"Para ahli takut sisi gelap dari alat yang mudah diakses ini dapat memperburuk sesuatu yang membahayakan wanita: pornografi deepfake nonkonsensual," tulis laman itu, dikutip Senin (17/4/2023).
Deepfake adalah video dan gambar yang dibuat secara digital atau diubah dengan kecerdasan buatan. Deepfake porno ini telah menyebar di internet beberapa tahun lalu dengan wajah selebriti wanita oleh pengguna Reddit.
Parahnya lagi, sejak itu pencipta deepfake seakan makin diminati dengan menyebarkan video dan gambar serupa yang menargetkan influencer online, jurnalis dan tokoh publik lainnya.
"Ribuan video sudah tersebar di sejumlah besar situs web dan beberapa telah menawarkan pengguna kesempatan untuk membuat gambar mereka sendiri, untuk dijadikan fantasi seksual tanpa persetujuan mereka," jelasnya.
Adam Dodge, pendiri Endtab mengatakan, membuat deepfake semakin mudah dengan makin pesatnya teknologi.
"Kenyataannya, adalah bahwa teknologi akan terus berkembang, dan menjadi semudah menekan tombol. Selama itu terjadi, tidak diragukan lagi akan ada menyalahgunakan teknologi untuk menyakiti orang lain," jelasnya.
Noelle Martin (28), warga Perth, Australia, telah menjadi korban dampak buruk dari AI. Dia menemukan porno deepfake dari dirinya saat berselancar dengan Google.
"Saat tidak tahu siapa yang membuat gambar palsu, atau video dalam hubungan seksual itu. Tetapi saya curiga seseorang telah mengambil gambar yang diposting di halaman media saya," sambungnya.
Sementara itu, beberapa model AI mengatakan, mereka sudah mengekang akses ke gambar eksplisit. OpenAI mengatakan, itu menghapus konten eksplisit dari data yang digunakan untuk pembuatan gambar Dall-E.
"Ini membatasi kemampuan pengguna untuk membuat jenis gambar tersebut. Perusahaan juga menyaring permintaan dan memblokir pengguna dari membuat gambar AI selebriti dan politisi terkemuka," tukas laman itu.
(san)
Lihat Juga :
