Kdy byste měli shrnout historii konverzace místo abyste znovu odesílali vše?

Question

Accepted Answer

Shrňte konverzaci, když se historie prodlouží a starší detaily již nejsou potřebné pro aktuální úkol. Místo abyste při každém tahu znovu odesílali celý přepis, nahradíte starší, vyřešené části krátkým shrnutím, které zachovává **klíčová rozhodnutí a aktuální stav** a vynechává vyřešené odbočky.

## Proč shrnovat

- **Kontextové okno** — každý model má konečný kontext. Dlouhá, neupravená historie jej nakonec přetečení a nejstarší zprávy se stejně zkrátí.
- **Náklady a latence** — za každou zprávu, kterou opět odešlete, zaplatíte (v tokenech) a čekáte. Vlákno s 50 zprávami znovu zpracované v každém tahu je pomalé a drahé; těsné shrnutí je levné.
- **Zaměření** — irelevantní tam a zpět (chyba, kterou jste již opravili, myšlenka, kterou jste zamítli) rozptyluje model od toho, co je teď důležité.

## Co zachovat vs. vynechat

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Příklad

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

To udržuje model zcela založený na rozhodnutích a aktuálním úkolu a vyhazuje hluk, který tam vedl.

## Proč je to důležité

Vědět, kdy shrnout, udržuje asistenta AI pracujícího v rámci jeho kontextového okna, rychle a levně — a udržuje jeho pozornost na rozhodnutích a aktuálním stavu, který skutečně řídí další krok, místo aby se topil v vyřešené historii.