¿Por qué alucina un LLM y cómo puedes reducirlo?

Question

Accepted Answer

Un LLM **alucina** cuando produce texto que suena seguro y plausible pero es factualmente incorrecto o inventado. Para entender por qué, primero tienes que entender qué hace realmente el modelo.

## Cómo funciona un LLM (brevemente)

A un alto nivel, un LLM es un **predictor de siguiente token**. Dado el texto hasta ahora, predice el siguiente token (palabra/fragmento) más probable basado en **patrones estadísticos aprendidos durante el entrenamiento** — no consultando hechos en una base de datos.

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Por qué ocurren las alucinaciones

- **Genera, no recupera.** El modelo produce texto *plausible*, no hechos *verificados*. La fluidez y la verdad son independientes.
- **Sin verificación de veracidad integrada.** Nada dentro del modelo compara la salida contra la realidad.
- **Los vacíos se cierren con confianza.** Cuando los datos de entrenamiento son escasos, ambiguos o faltantes (APIs raras, eventos recientes, personas oscuras), el modelo aún emite la continuación estadísticamente probable — que puede ser incorrecta.
- **La confianza no es corrección.** Una cita fabricada se ve exactamente tan fluida como una real.

## Cómo reducirlo

- **Ancla con RAG / fuentes.** Recupera documentos relevantes e inclúyelos en el prompt, para que el modelo responda *a partir de* texto real en lugar de memoria.
- **Solicita citas** y veríficalas — las referencias fabricadas revelan alucinación.
- **Baja la temperatura** para tareas factual, para que el modelo elija tokens de alta probabilidad (más seguros).
- **Permite "No sé".** Instruye explícitamente al modelo a decirlo cuando no esté seguro, eliminando la presión de inventar.
- **Verifica con herramientas.** Ejecuta el código, consulta una calculadora/búsqueda/base de datos, o llama a una API en lugar de confiar en el recuerdo del modelo.
- **Estrecha el alcance.** Los prompts específicos y bien delimitados alucina menos que los abiertos.

## Por qué es importante

Los LLMs están cada vez más integrados en productos que usuarios reales confían. Porque el modelo **genera texto plausible en lugar de recuperar hechos**, la alucinación es un comportamiento inherente, no un error ocasional — por lo que los ingenieros deben diseñar alrededor de ella. Saber *por qué* ocurre (predicción de siguiente token sin verificación de verdad) te dice *cómo* mitigarlo: anclaje, citas, temperatura más baja, permiso para abstenerse, y verificación externa. Tratar la salida de LLM como un borrador a ser revisado — no como un oráculo — es la diferencia entre una característica confiable y una responsabilidad confiada.