OpenAI Temukan Alasan yang Tepat Mengapa AI Berhalusinasi

Para peneliti kini mengusulkan bahwa dalam evaluasi model, jawaban yang salah akan menerima nilai negatif, sementara jawaban salah yang diberikan dengan percaya diri karena halusinasi akan diberikan pengurangan nilai yang lebih tinggi.

Setengah poin akan diberikan jika model mengaku tidak tahu.

Dengan ini, model AI yang dilatih memiliki insentif untuk selalu memberikan jawaban yang benar.

Di masa mendatang, masalah halusinasi dapat dikurangi dengan sistem pelatihan model AI yang lebih baik.