Warum halluzinieren LLMs und wie kann man es reduzieren?

Question

Accepted Answer

Ein LLM **halluziniert**, wenn es Text produziert, der selbstbewusst und plausibel klingt, aber faktisch falsch oder erfunden ist. Um zu verstehen, warum das passiert, musst du zunächst verstehen, was das Modell wirklich tut.

## Wie ein LLM funktioniert (kurz)

Auf hoher Ebene ist ein LLM ein **Next-Token-Prädiktor**. Gegeben den bisherigen Text prognostiziert es das wahrscheinlichste nächste Token (Wort/Teil) basierend auf **statistischen Mustern, die während des Trainings gelernt wurden** — nicht durch Abfrage von Fakten in einer Datenbank.

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Warum Halluzinationen auftreten

- **Es generiert, statt abzurufen.** Das Modell produziert *plausiblen* Text, nicht *verifizierte* Fakten. Flüssigkeit und Wahrheit sind unabhängig.
- **Kein eingebauter Wahrheitsprüfer.** Nichts im Modell vergleicht die Ausgabe mit der Realität.
- **Lücken werden selbstbewusst gefüllt.** Wenn Trainingsdaten dünn, mehrdeutig oder fehlend sind (seltene APIs, aktuelle Ereignisse, obskure Personen), gibt das Modell dennoch die statistisch wahrscheinliche Fortsetzung aus — was falsch sein kann.
- **Selbstbewusstsein ist nicht Korrektheit.** Ein erfundenes Zitat sieht genauso flüssig aus wie ein echtes.

## Wie man es reduziert

- **Mit RAG / Quellen erden.** Rufe relevante Dokumente ab und füge sie in den Prompt ein, damit das Modell *aus* echtem Text antwortet statt aus dem Gedächtnis.
- **Verlange Zitate** und überprüfe sie — erfundene Referenzen offenbaren Halluzination.
- **Senke die Temperatur** für sachliche Aufgaben, damit das Modell hochwahrscheinliche (sicherere) Tokens wählt.
- **Erlaube "Ich weiß nicht".** Instruiere das Modell explizit, dies zu sagen, wenn es sich unsicher ist, um den Druck zu entfernen, etwas zu erfinden.
- **Verifiziere mit Tools.** Führe Code aus, befrage einen Rechner/eine Suche/Datenbank, oder rufe eine API auf, statt dich auf das Gedächtnis des Modells zu verlassen.
- **Begrenzte den Umfang.** Spezifische, gut abgegrenzte Prompts halluzinieren weniger als offene.

## Warum es wichtig ist

LLMs sind zunehmend in Produkten eingebettet, denen echte Nutzer vertrauen. Weil das Modell **plausiblen Text generiert statt Fakten abruft**, ist Halluzination ein inhärentes Verhalten, kein gelegentlicher Fehler — daher müssen Ingenieure es umdesignen. Zu wissen, *warum* es passiert (Next-Token-Vorhersage ohne Wahrheitsprüfer), zeigt dir, *wie* du es mildern kannst: Erden, Zitate, niedrigere Temperatur, Erlaubnis zu abstinieren und externe Verifizierung. LLM-Ausgabe als Entwurf zu behandeln, der überprüft werden muss — nicht als Orakel — ist der Unterschied zwischen einer zuverlässigen Funktion und einer selbstsicheren Haftung.