Kdaj bi morali povzeti zgodovino pogovora namesto da vse znova pošljete?

Question

Accepted Answer

Povzemite pogovor, ko zgodovina postane dolga in podrobnosti iz preteklosti niso več potrebne za trenutno nalogo. Namesto da na vsakem koraku ponovno pošljete celoten prepis, starejše, rešene dele zamenjate s kratkim povzetkom, ki ohrani **ključne odločitve in trenutno stanje** ter zavrže rešene stranpoti.

## Zakaj povzemati

- **Kontekstno okno** — vsak model ima končno kontekstno okno. Dolga, nerevidirana zgodovina ga sčasoma prekorači in najstarejša sporočila se tako ali tako okrnjijo.
- **Stroški in latenca** — plačate (v tokenih) in čakate na vsako sporočilo, ki ga ponovno pošljete. Nit s 50 sporočili, ki se ponovno obdela na vsakem koraku, je počasna in draga; tesna povzetka je poceni.
- **Fokus** — nepomembno naprej-nazaj (hrošč, ki ste ga že popravili, ideja, ki ste jo zavrnili) zmede model v tem, kaj je res važno.

## Kaj obdržati, kaj zavreči

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Primer

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

To drži model popolnoma usmeren na odločitve in trenutno nalogo, medtem ko zavrže hrupa, ki vodi tja.

## Zakaj je to pomembno

Znanje, kdaj povzeti, drži AI asistenta v delovanju v okvirih svojega kontekstnega okna, hitro in poceni — ter njegovo pozornost usmerja na odločitve in trenutno stanje, ki dejansko poganjajo naslednji korak, namesto da bi se toplil v rešeni zgodovini.