Hvorfor halluciner LLM'er, og hvordan kan du reducere det?

Question

Accepted Answer

En LLM **halluciner** når den producerer tekst, der lyder selvsikker og plausibel, men er faktuelt forkert eller opdigtet. For at forstå hvorfor, skal du først forstå, hvad modellen faktisk gør.

## Hvordan en LLM fungerer (kort version)

På højt niveau er en LLM en **next-token prediktor**. Givet teksten så langt, forudsiger den det mest sandsynlige næste token (ord/stykke) baseret på **statistiske mønstre lært under træning** — ikke ved at slå fakta op i en database.

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Hvorfor hallucineringer opstår

- **Den genererer, den henter ikke.** Modellen producerer *plausibel* tekst, ikke *verificerede* fakta. Flydende sproget og sandhed er uafhængige.
- **Ingen indbygget sandhedskontrol.** Intet inde i modellen sammenligner output med virkeligheden.
- **Huller fyldes selvsikkert.** Når træningsdata er sparsomme, tvetydige eller mangler (sjældne API'er, aktuelle begivenheder, ukendte mennesker), udsender modellen stadig den statistisk sandsynlige fortsættelse — som kan være forkert.
- **Selvtillid er ikke korrekthed.** En opdigtet henvisning ser præcis lige så flydende ud som en rigtig.

## Hvordan du reducerer det

- **Grundfæst med RAG / kilder.** Hent relevante dokumenter og put dem i prompten, så modellen svarer *baseret på* rigtig tekst i stedet for hukommelse.
- **Bed om citater** og tjek dem — opdigtede referencer afslører hallucineringer.
- **Sænk temperaturen** for faktuelle opgaver, så modellen vælger højsandsynligheds- (sikrere) tokens.
- **Tillad "Jeg ved det ikke."** Instruér eksplicit modellen til at sige det, når den er usikker, hvilket fjerner presset på at opfinde.
- **Verificer med værktøjer.** Kør koden, spørg en regnemaskine/søgeværktøj/database, eller kald en API i stedet for at stole på modellens tilbagekaldelse.
- **Indsnævr omfanget.** Specifikke, velafgrænsede prompter halluciner mindre end åbne.

## Hvorfor det betyder noget

LLM'er er i stigende grad indlejret i produkter, som rigtige brugere har tillid til. Fordi modellen **genererer plausibel tekst i stedet for at hente fakta**, er hallucineringer en iboende adfærd, ikke en lejlighedsbetinget fejl — så ingeniører skal designe omkring det. At vide *hvorfor* det sker (next-token forudsigelse uden sandhedskontrol) fortæller dig *hvordan* du kan mindske det: grundfæstelse, citater, lavere temperatur, tilladelse til at afstå og ekstern verifikation. At behandle LLM-output som et udkast, der skal tjekkes — ikke som et orakel — er forskellen mellem en pålidelig funktion og en selvsikker passiv.