Wanneer moet je de gespreksgeschiedenis samenvatten in plaats van alles opnieuw te verzenden?

Question

Accepted Answer

Vat het gesprek samen wanneer de geschiedenis lang wordt en eerdere details niet meer nodig zijn voor de huidige taak. In plaats van het volledige transcript bij elke beurt opnieuw in te dienen, vervang je oudere, opgeloste delen met een korte samenvatting die de **belangrijkste besluiten en huidige staat** behoudt en opgeloste zijpaden weglaat.

## Waarom het belangrijk is

- **Context window** — elk model heeft een eindige context. Een lange, ongewijzigde geschiedenis overloopt uiteindelijk en de oudste berichten worden toch afgekapt.
- **Kosten en latency** — je betaalt (in tokens) en wacht op elk bericht dat je opnieuw verzendt. Een thread van 50 berichten die elke beurt opnieuw wordt verwerkt, is traag en duur; een strakke samenvatting is goedkoop.
- **Focus** — irrelevante heen-en-weer (een bug die je al hebt opgelost, een idee dat je hebt verworpen) leidt het model af van wat er nu toe doet.

## Wat behouden en wat weglaten

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Voorbeeld

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

Dit houdt het model volledig gegrond in de besluiten en de huidige taak, terwijl de ruis die eraan voorafging, wordt weggegooid.

## Waarom het belangrijk is

Weten wanneer je moet samenvatten, houdt een AI-assistent werkzaam binnen zijn context window, snel en goedkoop — en houdt de aandacht op de besluiten en huidige staat die werkelijk de volgende stap bepalen, in plaats van verdronken te raken in opgeloste geschiedenis.