Wann sollten Sie den Gesprächsverlauf zusammenfassen, statt alles erneut zu senden?

Question

Accepted Answer

Fassen Sie das Gespräch zusammen, wenn die Historie länger wird und frühere Details für die aktuelle Aufgabe nicht mehr benötigt werden. Statt das vollständige Transkript bei jeder Runde erneut zu senden, ersetzen Sie ältere, gelöste Teile durch eine kurze Zusammenfassung, die **wichtige Entscheidungen und den aktuellen Status** beibehält und gelöste Nebenthemen verwirft.

## Warum zusammenfassen

- **Kontextfenster** — jedes Modell hat einen endlichen Kontext. Eine lange, unbearbeitete Historie überläuft schließlich und die ältesten Meldungen werden ohnehin gekürzt.
- **Kosten und Latenz** — Sie bezahlen (in Token) und warten auf jede Meldung, die Sie erneut senden. Ein 50-Nachrichten-Thread, der bei jeder Runde erneut verarbeitet wird, ist langsam und teuer; eine prägnante Zusammenfassung ist kostengünstig.
- **Fokus** — irrelevantes Hin und Her (ein Bug, den Sie bereits behoben haben, eine Idee, die Sie abgelehnt haben) lenkt das Modell von dem ab, was jetzt wichtig ist.

## Was man behält vs. verwirft

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Beispiel

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

Dies hält das Modell vollständig auf den Entscheidungen und der aktuellen Aufgabe verankert, während es das Rauschen verwirft, das dorthin führte.

## Warum es wichtig ist

Zu wissen, wann zusammengefasst werden soll, hält einen KI-Assistenten innerhalb seines Kontextfensters arbeitend, schnell und kostengünstig — und behält seinen Fokus auf den Entscheidungen und dem aktuellen Status, die tatsächlich den nächsten Schritt vorantreiben, statt in gelöster Historie zu ertrinken.