Modeller inom en familj byter kapabilitet mot kostnad och latens: mindre modeller är snabbare och billigare men mindre kapabla; större resonerar bättre på svåra problem men kostar mer och svarar långsammare. Skickligheten är att matcha modellen med svårighetsgraden för uppgiften, inte alltid att gripa efter den största.
Med Anthropics Claude-familj som exempel (senaste generation: , , ):
Haiku → smallest, fastest, cheapest
→ high-volume / simple tasks: classification, extraction, quick edits
Sonnet → balanced cost/quality
→ everyday coding and general work (the sensible default)
Opus → most capable, highest cost & latency
→ hardest multi-step reasoning, architecture, tricky debugging
Ordningen är relativ: Haiku < Sonnet < Opus både i pris och latens, och samma ordning i ren kapabilitet.
Classify 1M support tickets → Haiku (volume dominates; task is simple)
Implement a feature → Sonnet (balanced everyday coding)
Debug a subtle race condition → Opus (hard reasoning justifies the cost)
Att som standard gripa efter den största modellen slösar pengar och lägger till latens på uppgifter som en billigare nivå hanterar bra; att som standard gripa efter den minsta ger dåliga resultat på genuint svårt arbete. Att välja medvetet — börja billigare, skala upp bara när kvaliteten kräver det — håller system snabba och prisvärda i stor skala samtidigt som man fortfarande tar med den tunga modellen till de problem som faktiskt behöver den.