Mengapa LLM mengalami alucinasi, dan bagaimana cara menguranginya?

Question

Accepted Answer

Sebuah LLM **mengalami alucinasi** ketika menghasilkan teks yang terdengar percaya diri dan masuk akal tetapi secara faktual salah atau dibuat-buat. Untuk memahami mengapa hal ini terjadi, Anda harus terlebih dahulu memahami apa yang benar-benar dilakukan model tersebut.

## Cara kerja LLM (secara singkat)

Secara garis besar, LLM adalah **next-token predictor**. Diberikan teks sejauh ini, model memprediksi token (kata/potongan) berikutnya yang paling mungkin berdasarkan **pola statistik yang dipelajari selama pelatihan** — bukan dengan mencari fakta di database.

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Mengapa alucinasi terjadi

- **Model menghasilkan, bukan mengambil.** Model menghasilkan teks yang *masuk akal*, bukan fakta yang *diverifikasi*. Kelancaran dan kebenaran adalah hal yang independen.
- **Tidak ada pengecekan kebenaran bawaan.** Tidak ada yang di dalam model membandingkan output terhadap realitas.
- **Celah diisi dengan percaya diri.** Ketika data pelatihan tipis, ambigu, atau hilang (API langka, acara terkini, orang-orang yang tidak dikenal), model masih mengeluarkan kelanjutan yang paling mungkin secara statistik — yang bisa salah.
- **Kepercayaan diri bukanlah kebenaran.** Kutipan yang dibuat-buat terlihat persis sama lancarnya dengan kutipan yang nyata.

## Cara menguranginya

- **Anchor dengan RAG / sumber.** Ambil dokumen yang relevan dan masukkan ke dalam prompt, sehingga model menjawab *dari* teks nyata alih-alih memori.
- **Minta kutipan** dan periksa — referensi yang dibuat-buat mengungkapkan alucinasi.
- **Turunkan temperature** untuk tugas faktual, sehingga model memilih token dengan probabilitas tinggi (lebih aman).
- **Izinkan "Saya tidak tahu."** Secara eksplisit instruksikan model untuk mengatakan demikian ketika tidak yakin, menghilangkan tekanan untuk membuat-buat.
- **Verifikasi dengan tools.** Jalankan kode, lakukan query ke kalkulator/pencarian/database, atau panggil API daripada mempercayai recall model.
- **Persempit ruang lingkup.** Prompt yang spesifik dan terbatas mengalami alucinasi lebih sedikit daripada yang open-ended.

## Mengapa ini penting

LLM semakin tertanam dalam produk yang dipercaya oleh pengguna nyata. Karena model **menghasilkan teks yang masuk akal daripada mengambil fakta**, alucinasi adalah perilaku yang melekat, bukan bug yang sesekali — jadi engineer harus merancang di sekitarnya. Mengetahui *mengapa* ini terjadi (prediksi next-token tanpa pengecekan kebenaran) memberitahu Anda *bagaimana* cara mengatasinya: anchoring, kutipan, temperature lebih rendah, izin untuk abstain, dan verifikasi eksternal. Memperlakukan output LLM sebagai draf yang harus diperiksa — bukan sebagai oracle — adalah perbedaan antara fitur yang dapat diandalkan dan liabilitas yang percaya diri.