När bör du sammanfatta konversationshistoriken i stället för att skicka allt på nytt?

Question

Accepted Answer

Sammanfatta konversationen när historiken växer lång och tidigare detaljer inte längre behövs för den aktuella uppgiften. I stället för att skicka hela transkriptet på nytt varje gång ersätter du äldre, lösta delar med en kort sammanfattning som behåller **viktiga beslut och aktuellt tillstånd** och tar bort lösta sidospår.

## Varför sammanfatta

- **Kontextfönster** — varje modell har ett begränsat kontextfönster. En lång, oredigerad historik överskrider det så småningom och de äldsta meddelandena trunkeras ändå.
- **Kostnad och latens** — du betalar (i tokens) och väntar på varje meddelande du skickar på nytt. En tråd med 50 meddelanden som återbearbetas på varje tur är långsam och dyr; en striktare sammanfattning är billig.
- **Fokus** — irrelevant fram-och-tillbaka (en bugg du redan fixat, en idé du förkastat) distraherar modellen från vad som är viktigt nu.

## Vad du ska behålla vs ta bort

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Exempel

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

Detta håller modellen helt fokuserad på besluten och den aktuella uppgiften medan det slänger allt brus som ledde dit.

## Varför det är viktigt

Att veta när du ska sammanfatta håller en AI-assistent igång inom sitt kontextfönster, snabb och billig — och håller dess uppmärksamhet på de beslut och det aktuella tillstånd som faktiskt driver nästa steg, i stället för att drunkna i löst historia.