लागत र लेटेन्सी ट्रेडअफहरू दिएर तपाई कसरी सही मडेल टियर छनोट गर्नु हुन्छ?

Question

Accepted Answer

एक परिवार भित्रका मडेलहरूले **क्षमता विरुद्ध लागत र लेटेन्सी** को व्यापार गर्छन्: साना मडेलहरू छिटो र सस्तो हुन्छन् तर कम सक्षम हुन्छन्; ठूलाहरूले गाह्रो समस्याहरूमा राम्रोसँग सोच्छन् तर अधिक खर्च हुन्छ र अझ ढिलो प्रतिक्रिया दिन्छन्। कौशल भनेको मडेललाई कार्यको कठिनाईसँग मिलान गर्नु हो, सधैं सबैभन्दा ठूलो एकमा पुग्नु होइन।

## टियरहरू (Anthropic को लाइनअप)

Anthropicको Claude परिवारलाई उदाहरणको रूपमा प्रयोग गर्दै (नवीनतम पीढी: **Opus 4.8**, **Sonnet 4.6**, **Haiku 4.5**):

```text
Haiku   → smallest, fastest, cheapest
          → high-volume / simple tasks: classification, extraction, quick edits
Sonnet  → balanced cost/quality
          → everyday coding and general work (the sensible default)
Opus    → most capable, highest cost & latency
          → hardest multi-step reasoning, architecture, tricky debugging
```

क्रम सापेक्ष छ: **Haiku < Sonnet < Opus** दुबै मूल्य र लेटेन्सीमा, र कच्चा क्षमताकरणमा पनि।

## कसरी छनोट गर्ने

- **सस्तोसँग सुरु गर्नुहोस्।** पहिले Haiku वा Sonnet को लागि पुग्नुहोस्; अधिकांश कार्यहरूलाई शीर्ष टियरको आवश्यकता छैन।
- **गुणस्तर आवश्यक हुँदा मात्र बढाउनुहोस्।** यदि सस्तो मडेलको आउटपुट गलत, उथले वा लक्ष्य मिस गरिरहेको छ वास्तवमा गाह्रो समस्यामा, Opus मा जानुहोस्।
- **भोल्युमको बारेमा सोच्नुहोस्।** एक कार्य जुन तपाई लाखौ पटक चलाउनु हुन्छ (ट्यागिङ, रूटिङ) Haiku मा हुनुपर्छ भले Opus अलिकति राम्रो छ — लागत र लेटेन्सी गुणा हुन्छ।

```text
Classify 1M support tickets   → Haiku   (volume dominates; task is simple)
Implement a feature           → Sonnet  (balanced everyday coding)
Debug a subtle race condition → Opus    (hard reasoning justifies the cost)
```

## यो किन महत्वपूर्ण छ

सबैभन्दा ठूलो मडेलमा पूर्वनिर्धारित गर्नु सस्तो टियरले ठीकसँग सम्भाले सक्ने कार्यहरूमा पैसा र लेटेन्सी बर्बाद गर्छ; सबैभन्दा साना एकमा पूर्वनिर्धारित गर्नु वास्तवमा गाह्रो काम मा खराब परिणाम दिन्छ। जानबूझकर छनोट गर्नु — सस्तोसँग सुरु गर्नु, गुणस्तर आवश्यक हुँदा मात्र बढाउनु — प्रणालीहरूलाई स्केलमा छिटो र सस्तो राख्छ र यदि यो वास्तवमा आवश्यक समस्याहरूमा भारी मडेल ल्याइरहन्छ।