Daftar Istilah AI yang Wajib Diketahui
Kamis, 30 November 2023 - 21:40 WIB
loading...
A
A
A
Baca juga; YouTube Menguji AI Generatif untuk Meringkas Komentar
Namun, Generative AI juga dapat digunakan oleh aktor jahat untuk membuat berita palsu, atau gambar yang terlihat seperti foto tetapi tidak nyata. Karena itu, perusahaan teknologi sedang mengembangkan cara untuk mengidentifikasi konten yang dihasilkan AI dengan jelas.
Fenomena ini disebut developer sebagai halusinasi, atau istilah yang lebih akurat, fabrikasi. Ini mirip seperti saat seseorang melihat sesuatu yang mirip seperti garis wajah manusia di bulan, dan mengatakan bahwa betul-betul ada manusia di bulan.
Baca juga; Samsung Kembangkan Model AI Generatif, Targetkan Peluncuran Tahun 2024
Developer mencoba menyelesaikan isu ini melalui "grounding", sebuah teknik memberikan informasi tambahan dari sumber tepercaya kepada sistem AI, untuk meningkatkan akurasi AI tentang topik tertentu. Kadang-kadang prediksi sistem bisa salah jika model tidak memiliki informasi terkini.
Namun, Generative AI juga dapat digunakan oleh aktor jahat untuk membuat berita palsu, atau gambar yang terlihat seperti foto tetapi tidak nyata. Karena itu, perusahaan teknologi sedang mengembangkan cara untuk mengidentifikasi konten yang dihasilkan AI dengan jelas.
5. Halusinasi
Sistem generative AI dapat membuat cerita, puisi dan lagu, tetapi kadang-kadang manusia ingin hasil dari generative AI didasarkan pada kebenaran. Karena sistem AI tidak dapat membedakan antara yang nyata dan palsu, generative AI dapat memberikan tanggapan yang tidak akurat.Fenomena ini disebut developer sebagai halusinasi, atau istilah yang lebih akurat, fabrikasi. Ini mirip seperti saat seseorang melihat sesuatu yang mirip seperti garis wajah manusia di bulan, dan mengatakan bahwa betul-betul ada manusia di bulan.
Baca juga; Samsung Kembangkan Model AI Generatif, Targetkan Peluncuran Tahun 2024
Developer mencoba menyelesaikan isu ini melalui "grounding", sebuah teknik memberikan informasi tambahan dari sumber tepercaya kepada sistem AI, untuk meningkatkan akurasi AI tentang topik tertentu. Kadang-kadang prediksi sistem bisa salah jika model tidak memiliki informasi terkini.
(wib)
Lihat Juga :
