Inference ≠ Training
Training
- Model belajar dari data
- Bobot model berubah
- Dilakukan oleh tim AI / lab
- Mahal dan butuh waktu lama
Inference
- Model sudah jadi, dipakai untuk menghasilkan output
- Bobot model tidak berubah
- Inilah yang kita lakukan saat chat
- Cepat dan murah per request
Perhatian
Riwayat chat masuk sebagai konteks, bukan otomatis jadi pengetahuan permanen model. Memori produk (mis. "Saved memories" di ChatGPT) dan training model adalah dua hal berbeda.