Hallucination
Definisi
Hallucination terjadi ketika model menghasilkan informasi yang salah, tidak ada, atau tidak terverifikasi — tetapi disampaikan dengan lancar.
Penyebab umum
- Model tidak punya akses ke sumber terbaru
- Prompt kurang konteks
- Pertanyaan meminta detail yang tidak tersedia
- Model menggabungkan pola yang mirip dari data training
- Model lebih dioptimalkan untuk kelancaran bahasa daripada verifikasi fakta
Info
Hallucination bukan kesalahan misterius. Ia hasil langsung dari cara model bekerja — model mengisi kekosongan dengan pola yang tampak masuk akal.