खर्च आणि विलंबता व्यापार-बंद दिल्या असता योग्य मॉडेल टियर कसे निवडावे?

Question

Accepted Answer

कुटुंबातील मॉडेल्स **क्षमता खर्च आणि विलंबताविरुद्ध व्यापार करतात**: लहान मॉडेल्स वेगवान आणि स्वस्त आहेत परंतु कमी सक्षम आहेत; मोठे कठीण समस्यांवर चांगले विचार करतात परंतु अधिक खर्चाच्या आणि हळू प्रतिक्रिया देतात. कौशल्य मॉडेलला कार्यचे कठिणता जुळवून देणे हे आहे, नेहमीच सर्वात मोठा पोचण्याचा नाही.

## टियर्स (Anthropic ची लाइनअप)

Anthropic च्या Claude कुटुंबास उदाहरण म्हणून वापरून (सर्वशेष पीढी: **Opus 4.8**, **Sonnet 4.6**, **Haiku 4.5**):

```text
Haiku   → smallest, fastest, cheapest
          → high-volume / simple tasks: classification, extraction, quick edits
Sonnet  → balanced cost/quality
          → everyday coding and general work (the sensible default)
Opus    → most capable, highest cost & latency
          → hardest multi-step reasoning, architecture, tricky debugging
```

ऑर्डरिंग सापेक्ष आहे: **Haiku < Sonnet < Opus** किंमत आणि विलंबता दोन्हीमध्ये, आणि कच्च्या क्षमतामध्ये समान क्रम.

## कसे निवडावे

- **स्वस्त सुरू करा.** प्रथम Haiku किंवा Sonnet पोचा; बहुतेक कार्यांना शीर्ष टियर आवश्यक नाही.
- **केवळ गुणवत्ता आवश्यक असेल तेव्हा वाढव.** जर स्वस्त मॉडेलचे आउटपुट चुकीचे, उथळ किंवा खरोखर कठीण समस्यांवर उद्देश मिसा टाकत राहिले तर Opus वर जा.
- **व्हॉल्यूम विचार करा.** एक कार्य जो तुम्ही लाखो वेळा चालवता (टॅगिंग, रूटिंग) Haiku वर असावे जरी Opus थोडा चांगला असला तरी — खर्च आणि विलंबता गुणाकार होतात.

```text
Classify 1M support tickets   → Haiku   (volume dominates; task is simple)
Implement a feature           → Sonnet  (balanced everyday coding)
Debug a subtle race condition → Opus    (hard reasoning justifies the cost)
```

## हे महत्वाचे का आहे

सर्वात मोठ्या मॉडेलवर डिफॉल्ट करणे कार्यांवर पैसे वाया करते आणि विलंबता जोडते जे स्वस्त टियर चांगले हाताळते; सर्वात लहान वर डिफॉल्ट करणे खरोखरच कठीण कामावर वाईट परिणाम देते. जाणीवपूर्वक निवडा — स्वस्त सुरू करा, केवळ गुणवत्ता आवश्यक असेल तेव्हा वाढव — प्रणाली वेगवान आणि परवडणारी ठेवा मोठ्या प्रमाणात हजी असलेल्या समस्यांना भारी मॉडेल आणताना जेथे हे खरोखरच आवश्यक आहे.