Apa itu Retrieval-Augmented Generation (RAG)?

Question

Accepted Answer

**RAG (Retrieval-Augmented Generation)** menggabungkan sebuah LLM dengan sebuah **sistem retrieval** — mengambil informasi relevan dari basis pengetahuan dan menyediakannya ke LLM sebagai konteks untuk menghasilkan jawaban yang akurat dan berdasar fakta. Ini adalah teknik kunci untuk membangun aplikasi LLM atas data kustom.

## Apa yang dilakukan RAG

```text
RAG → augment an LLM's generation with RETRIEVED relevant information:
  1. RETRIEVE → search a knowledge base (your documents/data) for info relevant to the query
  2. AUGMENT → add the retrieved info to the LLM's prompt as CONTEXT
  3. GENERATE → the LLM answers using the provided context (grounded in your data)
→ gives the LLM relevant, up-to-date, specific knowledge it wasn't trained on
```

## Bagaimana RAG biasanya bekerja

```text
→ index your data: split documents into chunks → create EMBEDDINGS → store in a VECTOR DATABASE
→ at query time: embed the query → find the most SIMILAR chunks (semantic search) →
  retrieve them
→ build a prompt: 'Using this context: [retrieved chunks], answer: [query]'
→ the LLM generates an answer grounded in the retrieved context
```

## Mengapa RAG bernilai

```text
✓ Use your OWN/CURRENT data → answer questions about documents the LLM wasn't trained on
  (private docs, recent info, specific knowledge)
✓ Reduce HALLUCINATION → grounding answers in retrieved facts → more accurate, less made-up
✓ Up-to-date → retrieve current info (vs the model's fixed training cutoff)
✓ CITATIONS → can show sources (the retrieved chunks) → trust/verification
✓ cheaper/easier than fine-tuning for adding knowledge
→ a key pattern for building LLM apps over custom data
```

## Mengapa ini penting

Memahami RAG bernilai karena ini adalah **teknik kunci untuk membangun aplikasi LLM praktis** atas data kustom, sehingga ini menjadi pengetahuan AI yang semakin penting bagi pengembang.

RAG — menggabungkan sebuah LLM dengan sistem retrieval untuk mengambil informasi relevan dan menyediakannya sebagai konteks untuk generasi berdasar fakta — adalah pola fundamental untuk aplikasi LLM di dunia nyata.

Memahami **apa yang dilakukan RAG** — mengambil informasi relevan dari basis pengetahuan, melengkapi prompt LLM dengan informasi tersebut sebagai konteks, dan menghasilkan jawaban berdasar data tersebut — menjelaskan bagaimana RAG memberi akses LLM ke pengetahuan yang tidak mereka pelajari saat pelatihan.

Memahami **bagaimana RAG biasanya bekerja** — mengindeks data dengan membagi dokumen menjadi potongan, membuat embedding, dan menyimpannya dalam basis data vektor; kemudian pada saat query, embedding query, menemukan potongan serupa melalui pencarian semantik, dan membangun prompt dengan konteks yang diambil untuk LLM — memberikan arsitektur praktis (menghubungkan ke embedding dan basis data vektor).

Memahami **mengapa RAG bernilai** adalah wawasan kunci: ini memungkinkan LLM menggunakan **data Anda sendiri dan data terkini** (menjawab tentang dokumen pribadi, informasi terbaru, dan pengetahuan spesifik yang tidak dipelajari LLM), **mengurangi halusinasi** (mendasarkan jawaban pada fakta yang diambil untuk akurasi — mengatasi batasan LLM kritis), menyediakan **informasi terbaru** (dibandingkan cutoff pelatihan model yang tetap), memungkinkan **kutipan** (menunjukkan sumber untuk kepercayaan), dan lebih murah dan mudah daripada fine-tuning untuk menambah pengetahuan.

Manfaat-manfaat ini membuat RAG menjadi teknik yang paling dipilih untuk membangun aplikasi LLM atas data kustom (kebutuhan yang sangat umum).

RAG adalah salah satu pola praktis paling penting untuk aplikasi LLM, semakin penting untuk pengembang yang membangun fitur AI.

Karena RAG adalah teknik kunci untuk membangun aplikasi LLM praktis atas data kustom (mendasarkan LLM pada data Anda sendiri/terkini, mengurangi halusinasi, memungkinkan kutipan) — kebutuhan yang sangat umum — dan memahaminya semakin penting bagi pengembang yang membangun fitur AI, memahami RAG adalah pengetahuan AI yang bernilai dan semakin penting — pola fundamental untuk membangun aplikasi LLM atas data kustom (mendasarkan jawaban pada informasi yang diambil untuk mengurangi halusinasi dan menggunakan pengetahuan Anda sendiri/terkini), semakin penting bagi pengembang, dan teknik kunci dalam aplikasi praktis LLM.