Kada turėtumėte apibendrinti pokalbio istoriją, o ne iš naujo siųsti viską?

Question

Accepted Answer

Apibendrinkite pokalbį, kai istorija tampa ilga ir ankstesni detailai nebėra reikalingi esamai užduočiai. Vietoj to, kad kiekvieną kartą iš naujo siųstumėte visą stenogramą, pakeiskite senesnes, išspręstas dalis trumpu santrauka, kuri išlaiko **pagrindinius sprendimus ir esamą būseną** ir atsisakote išspręstų šalinių temų.

## Kodėl reikia apibendrinti

- **Konteksto langas** — kiekvienas modelis turi baigtinį kontekstą. Ilga, nepataisa historia galiausiai jį perpildo ir seniausios žinutės vis tiek sutrumpinamos.
- **Išlaidos ir latencija** — mokate (žetonais) ir laukiate kiekvienos žinutės, kurią iš naujo siunčiate. 50 žinučių gija, perapdorojama kiekvieną kartą, yra lėta ir brangi; kompaktiška santrauka yra nebrangi.
- **Fokusavimas** — nereikalingas susikeitimas (klaida, kurią jau ištaisėte, idėja, kurią atmetėte) išveda modelį nuo to, kas svarbu dabar.

## Ką išsaugoti ir ką atmesti

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Pavyzdys

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

Tai modelį pilnai orientuoja dėl sprendimų ir esamos užduoties, tuo tarpu išmeta triukšmą, kuris joje privedė.

## Kodėl tai svarbu

Žinojimas, kada apibendrinti, palaikyto AI asistentą veikiantį jo konteksto lange, greitą ir pigų — ir jo dėmesį sutelkiant į sprendimus bei esamą būseną, kuri iš tiesų lemia kitą žingsnį, vietoj to, kad skęstų išspręstoje istorijoje.