¿Cuándo debe resumir el historial de conversación en lugar de reenviar todo?

Question

Accepted Answer

Resuma la conversación cuando el historial crece demasiado y los detalles anteriores ya no son necesarios para la tarea actual. En lugar de reenviar la transcripción completa en cada turno, reemplace las partes más antiguas y resueltas con un breve resumen que mantenga **las decisiones clave y el estado actual** y descarte las tangentes resueltas.

## Por qué resumir

- **Ventana de contexto** — cada modelo tiene un contexto finito. Un historial largo y sin editar eventualmente se desbordará y los mensajes más antiguos se truncarán de todas formas.
- **Costo y latencia** — paga (en tokens) y espera por cada mensaje que reenvía. Un hilo de 50 mensajes reprocesado en cada turno es lento y costoso; un resumen compacto es barato.
- **Enfoque** — ir y venir irrelevante (un error que ya corrigió, una idea que rechazó) distrae al modelo de lo que importa ahora.

## Qué mantener vs. qué descartar

```text
KEEP → decisions made ("we chose Postgres"), constraints ("must run on Node 18"),
        current state ("auth works; now wiring the dashboard"), open questions
DROP → resolved tangents, dead-end attempts, long pasted output already acted on,
        polite filler
```

## Ejemplo

```text
# Instead of 40 messages, summarize the settled context:
Summary so far:
- Building a REST API in Express + Postgres (Node 18).
- Auth (JWT) is done and tested.
- DECISION: use Zod for request validation.
Current task: add the GET /orders endpoint with pagination.
```

Esto mantiene el modelo completamente fundamentado en las decisiones y la tarea actual mientras descarta el ruido que condujo allí.

## Por qué es importante

Saber cuándo resumir mantiene un asistente de IA funcionando dentro de su ventana de contexto, rápido y económico — y mantiene su atención en las decisiones y el estado actual que realmente impulsan el siguiente paso, en lugar de ahogarse en el historial resuelto.