Bir aile içindeki modeller yeteneği maliyet ve gecikmeye karşı değiştirir: daha küçük modeller daha hızlı ve daha ucuz ama daha az yeteneklidir; daha büyükleri zor problemlerde daha iyi akıl yürütür ama daha maliyetlidir ve daha yavaş yanıt verir. Beceri, modeli görevin zorluğuyla eşleştirmektir, her zaman en büyük olanı almak değildir.
Anthropicin Claude ailesini örnek olarak kullanırsak (en son nesil: , , ):
Haiku → smallest, fastest, cheapest
→ high-volume / simple tasks: classification, extraction, quick edits
Sonnet → balanced cost/quality
→ everyday coding and general work (the sensible default)
Opus → most capable, highest cost & latency
→ hardest multi-step reasoning, architecture, tricky debugging
Sıralama görecelidir: hem fiyat hem de gecikme açısından Haiku < Sonnet < Opus, ve saf yetenek açısından aynı sıra.
Classify 1M support tickets → Haiku (volume dominates; task is simple)
Implement a feature → Sonnet (balanced everyday coding)
Debug a subtle race condition → Opus (hard reasoning justifies the cost)
En büyük modeli varsayılan olarak tercih etmek daha ucuz bir katmanın iyi şekilde işlediği görevlerde paraya boşa harcamak ve gecikme eklemek; en küçüğünü varsayılan olarak tercih etmek gerçekten zor işlerde kötü sonuçlar verir. Bilinçli seçim yapma — daha ucuz olanla başlayın, kalite gerektirdiğinde yalnızca artırın — sistemleri ölçekte hızlı ve uygun fiyatlı tutarken yine de ağır modeli gerçekten ihtiyacı olan sorunlara getiriyor.