Ahli Beberkan Bahaya Terbesar Video Kecerdasan Buatan Sora
Minggu, 15 Desember 2024 - 22:05 WIB
loading...
A
A
A
Di situs webnya, pencipta Sora, OpenAI, menyinggung masalah keselamatan terkait Sora.
Situs web perusahaan tersebut mengatakan : “Kami akan mengambil beberapa langkah keamanan penting sebelum menyediakan Sora dalam produk OpenAI. Kami bekerja sama dengan red teamer — pakar domain di bidang seperti misinformasi, konten yang mengandung kebencian, dan bias — yang akan menguji model tersebut secara berlawanan.”
Dikatakan pula bahwa pihaknya berencana untuk menggunakan beberapa fitur keamanan yang sama yang saat ini tersedia untuk generator gambarnya, bernama Dall-E , yang tersedia untuk memastikan bahwa perintah teks tidak melanggar aturan terhadap "kekerasan ekstrem, konten seksual, gambar yang mengandung kebencian, kemiripan dengan selebriti, atau IP milik orang lain".
Namun, beberapa pihak di industri telah menunjukkan bahwa AI dilatih pada data manusia, yang berarti kemungkinan besar memiliki bias yang sama dengan manusia.
“Ada bias dalam masyarakat dan bias tersebut akan tercermin dalam sistem ini,” kata Kristian Hammond, seorang profesor ilmu komputer di Universitas Northwestern .
Situs web perusahaan tersebut mengatakan : “Kami akan mengambil beberapa langkah keamanan penting sebelum menyediakan Sora dalam produk OpenAI. Kami bekerja sama dengan red teamer — pakar domain di bidang seperti misinformasi, konten yang mengandung kebencian, dan bias — yang akan menguji model tersebut secara berlawanan.”
Dikatakan pula bahwa pihaknya berencana untuk menggunakan beberapa fitur keamanan yang sama yang saat ini tersedia untuk generator gambarnya, bernama Dall-E , yang tersedia untuk memastikan bahwa perintah teks tidak melanggar aturan terhadap "kekerasan ekstrem, konten seksual, gambar yang mengandung kebencian, kemiripan dengan selebriti, atau IP milik orang lain".
Namun, beberapa pihak di industri telah menunjukkan bahwa AI dilatih pada data manusia, yang berarti kemungkinan besar memiliki bias yang sama dengan manusia.
“Ada bias dalam masyarakat dan bias tersebut akan tercermin dalam sistem ini,” kata Kristian Hammond, seorang profesor ilmu komputer di Universitas Northwestern .
(wbs)
Lihat Juga :
