OpenAI Temukan Alasan yang Tepat Mengapa AI Berhalusinasi
Selasa, 09 September 2025 - 07:12 WIB
loading...
A
A
A
Model-model tersebut dilatih untuk memberikan jawaban dalam bentuk apa pun dan tidak disarankan untuk mengatakan bahwa mereka tidak tahu. Dalam evaluasi model, AI diberi nilai tinggi untuk jawaban yang benar.
Dalam situasi di mana AI harus menjawab pertanyaan, ia akan memilih untuk menebak jawaban yang tidak diketahui dengan probabilitas benar, alih-alih memilih untuk tidak menjawab dan mendapatkan skor nol.
Para peneliti kini mengusulkan bahwa dalam evaluasi model, jawaban yang salah akan menerima nilai negatif, sementara jawaban salah yang diberikan dengan percaya diri karena halusinasi akan diberikan pengurangan nilai yang lebih tinggi.
Setengah poin akan diberikan jika model mengaku tidak tahu.
Dengan ini, model AI yang dilatih memiliki insentif untuk selalu memberikan jawaban yang benar.
Di masa mendatang, masalah halusinasi dapat dikurangi dengan sistem pelatihan model AI yang lebih baik.
Dalam situasi di mana AI harus menjawab pertanyaan, ia akan memilih untuk menebak jawaban yang tidak diketahui dengan probabilitas benar, alih-alih memilih untuk tidak menjawab dan mendapatkan skor nol.
Para peneliti kini mengusulkan bahwa dalam evaluasi model, jawaban yang salah akan menerima nilai negatif, sementara jawaban salah yang diberikan dengan percaya diri karena halusinasi akan diberikan pengurangan nilai yang lebih tinggi.
Setengah poin akan diberikan jika model mengaku tidak tahu.
Dengan ini, model AI yang dilatih memiliki insentif untuk selalu memberikan jawaban yang benar.
Di masa mendatang, masalah halusinasi dapat dikurangi dengan sistem pelatihan model AI yang lebih baik.
(wbs)
Lihat Juga :
