Retrieval-Augmented Generation (RAG) भनेको के हो?

Question

Accepted Answer

**RAG (Retrieval-Augmented Generation)** एक LLM लाई **retrieval system** संग जोडिएको हुन्छ — ज्ञान आधारबाट सान्दर्भिक जानकारी प्राप्त गरेर यसलाई LLM को context को रूपमा प्रदान गर्दै सटीक, आधारित उत्तर उत्पन्न गर्न। यो कस्टम डेटामाथि LLM अनुप्रयोगहरू निर्माण गर्न एक मुख्य तकनीक हो।

## RAG ले के गर्छ

```text
RAG → augment an LLM's generation with RETRIEVED relevant information:
  1. RETRIEVE → search a knowledge base (your documents/data) for info relevant to the query
  2. AUGMENT → add the retrieved info to the LLM's prompt as CONTEXT
  3. GENERATE → the LLM answers using the provided context (grounded in your data)
→ gives the LLM relevant, up-to-date, specific knowledge it wasn't trained on
```

## RAG सामान्यतः कसरी काम गर्छ

```text
→ index your data: split documents into chunks → create EMBEDDINGS → store in a VECTOR DATABASE
→ at query time: embed the query → find the most SIMILAR chunks (semantic search) →
  retrieve them
→ build a prompt: 'Using this context: [retrieved chunks], answer: [query]'
→ the LLM generates an answer grounded in the retrieved context
```

## RAG किन मूल्यवान छ

```text
✓ Use your OWN/CURRENT data → answer questions about documents the LLM wasn't trained on
  (private docs, recent info, specific knowledge)
✓ Reduce HALLUCINATION → grounding answers in retrieved facts → more accurate, less made-up
✓ Up-to-date → retrieve current info (vs the model's fixed training cutoff)
✓ CITATIONS → can show sources (the retrieved chunks) → trust/verification
✓ cheaper/easier than fine-tuning for adding knowledge
→ a key pattern for building LLM apps over custom data
```

## किन यो महत्त्वपूर्ण छ

RAG बुझ्न मूल्यवान छ किनकि यो कस्टम डेटामाथि **व्यावहारिक LLM अनुप्रयोगहरू निर्माण गर्न एक मुख्य तकनीक** हो, र यो विकासकर्ताहरूको लागि बढ्दो महत्त्वपूर्ण AI ज्ञान हो।

RAG — सान्दर्भिक जानकारी प्राप्त गर्न र यसलाई ग्राउन्डेड जेनरेशनको लागि context को रूपमा प्रदान गर्न एक LLM लाई retrieval system संग जोडिएको — वास्तविक-संसारको LLM अनुप्रयोगहरूको लागि एक मौलिक ढाँचा हो।

**RAG ले के गर्छ** बुझ्न — ज्ञान आधारबाट सान्दर्भिक जानकारी प्राप्त गर्न, LLM को prompt लाई यससँग augment गर्न, र त्यस डेटामा आधारित उत्तर उत्पन्न गर्न — यो स्पष्ट गर्छ कि RAG ले LLMs लाई तिनीहरूले प्रशिक्षण प्राप्त नगरेको ज्ञानमा पहुँच दिन्छ।

**RAG सामान्यतः कसरी काम गर्छ** बुझ्न — डेटा अनुक्रमणिका गर्दै दस्तावेजहरूलाई खण्डमा विभाजित गर्दै, embeddings सिर्जना गर्दै, र तिनीहरूलाई vector database मा भण्डारण गर्दै; त्यसपछि क्वेरी समयमा query लाई embed गर्दै, semantic search मार्फत समान खण्डहरू फेला पारिदै, र LLM को लागि प्राप्त context सँग prompt निर्माण गर्दै — व्यावहारिक आर्किटेक्चर (embeddings र vector databases सँग जोडिने) प्रदान गर्छ।

**RAG किन मूल्यवान छ** बुझ्न मुख्य अन्तर्दृष्टि हो: यो LLMs लाई **आपनो र वर्तमान डेटा** (निजी दस्तावेज, हालको जानकारी, र विशेष ज्ञानको बारेमा जवाफ दिन जो LLM लाई प्रशिक्षण दिइएको थिएन) उपयोग गर्न अनुमति दिन्छ, **hallucination कम गर्छ** (सटीकताको लागि प्राप्त तथ्यमा उत्तरहरू ग्राउन्ड गर्दै — एक महत्त्वपूर्ण LLM सीमालाई सम्बोधन गर्दै), **अद्यावधिक जानकारी** प्रदान गर्छ (मडेलको निश्चित प्रशिक्षण cutoff को विरुद्धमा), **उद्धरणहरू** सक्षम गर्छ (विश्वासको लागि स्रोतहरू देखाइदै), र ज्ञान थप्नको लागि fine-tuning भन्दा सस्तो र सजिलो छ।

यी लाभहरूले RAG लाई कस्टम डेटामाथि LLM अनुप्रयोगहरू निर्माण गर्नको लागि जाने-सुने तकनीक बनाउँछन् (एक धेरै सामान्य आवश्यकता)।

RAG LLM अनुप्रयोगहरूको लागि सबैभन्दा महत्त्वपूर्ण व्यावहारिक ढाँचाहरूमध्ये एक हो, AI सुविधाहरू निर्माण गर्दै विकासकर्ताहरूको लागि बढ्दो आवश्यक।

RAG कस्टम डेटामाथि व्यावहारिक LLM अनुप्रयोगहरू निर्माण गर्न एक मुख्य तकनीक भएकोले (LLMs लाई आपनो/वर्तमान डेटामा ग्राउन्ड गर्दै, hallucination कम गर्दै, उद्धरणहरू सक्षम गर्दै) — एक धेरै सामान्य आवश्यकता — र यसलाई बुझ्न विकासकर्ताहरूको लागि बढ्दो महत्त्वपूर्ण छ, RAG बुझ्न मूल्यवान छ, बढ्दो-आवश्यक AI ज्ञान — कस्टम डेटामाथि LLM अनुप्रयोगहरू निर्माण गर्न एक मौलिक ढाँचा (प्राप्त जानकारीमा उत्तरहरू ग्राउन्ड गर्दै hallucination कम गर्न र आपनो/वर्तमान ज्ञान उपयोग गर्न), विकासकर्ताहरूको लागि बढ्दो महत्त्वपूर्ण, र LLMs को व्यावहारिक अनुप्रयोगमा एक मुख्य तकनीक।