I modelli all'interno di una famiglia scambiano capacità contro costo e latenza: i modelli più piccoli sono più veloci e meno costosi ma meno capaci; quelli più grandi ragionano meglio su problemi difficili ma costano di più e rispondono più lentamente. L'abilità consiste nell'abbinare il modello alla difficoltà del compito, non raggiungere sempre quello più grande.
Usando la famiglia Claude di Anthropic come esempio (ultima generazione: , , ):
Haiku → smallest, fastest, cheapest
→ high-volume / simple tasks: classification, extraction, quick edits
Sonnet → balanced cost/quality
→ everyday coding and general work (the sensible default)
Opus → most capable, highest cost & latency
→ hardest multi-step reasoning, architecture, tricky debugging
L'ordinamento è relativo: Haiku < Sonnet < Opus sia in prezzo che in latenza, e lo stesso ordine nella capacità raw.
Classify 1M support tickets → Haiku (volume dominates; task is simple)
Implement a feature → Sonnet (balanced everyday coding)
Debug a subtle race condition → Opus (hard reasoning justifies the cost)
Usare di default il modello più grande spreca denaro e aggiunge latenza su compiti che un tier più economico gestisce benissimo; usare di default il più piccolo dà risultati scadenti su lavoro genuinamente difficile. Scegliere deliberatamente — iniziare più economico, scalare solo quando la qualità lo richiede — mantiene i sistemi veloci e convenienti su larga scala portando ancora il modello pesante ai problemi che lo richiedono davvero.