Prediktor token, bukan mesin kebenaran

LLM menghasilkan jawaban yang terlihat natural karena ia sangat baik memodelkan pola bahasa
Natural bukan berarti benar
Output yang lancar bisa tetap salah jika konteks kurang, data usang, atau model menebak

Contoh kasus

Prompt: Sebutkan paper terbaru tentang topik X.

Masalah: model bisa membuat judul, penulis, atau tahun yang sebenarnya tidak ada — dan menyajikannya dengan format yang meyakinkan.

Pondasi memahami hallucination

Objective model adalah membuat kelanjutan teks yang masuk akal, bukan melakukan verifikasi fakta seperti search engine.