Apa perbedaan antara prompt engineering, RAG, dan fine-tuning, dan kapan Anda menggunakan masing-masing?

Question

Accepted Answer

Ini adalah tiga cara untuk membuat LLM melakukan apa yang Anda inginkan, bekerja pada **lapisan yang berbeda**: prompting membentuk *perilaku*, RAG menyuntikkan *pengetahuan*, dan fine-tuning mengubah *model*.

## Tiga pendekatan

- **Prompt engineering** — bentuk perilaku model melalui instruksi, konteks, dan contoh dalam prompt. Tidak ada yang berubah tentang model; Anda hanya berkomunikasi lebih baik (system prompts, few-shot examples, format output). Paling murah dan paling cepat; **solusi pertama Anda**.
- **RAG (retrieval-augmented generation)** — pada saat query, ambil dokumen yang relevan (dari vector store, database, atau pencarian) dan sisipkan ke dalam prompt. Model menjawab *dari* konteks yang disediakan. Terbaik ketika pengetahuan **eksternal, pribadi, atau berubah**.
- **Fine-tuning** — lanjutkan pelatihan model pada contoh Anda sendiri, menyesuaikan **bobot**-nya. Ini membekukan gaya, format, atau keterampilan yang konsisten. Kuat tetapi mahal dan **statis** — pengetahuan dibekukan pada waktu pelatihan.

## Perbandingan

| | Prompt engineering | RAG | Fine-tuning |
|---|---|---|---|
| **Perubahan** | Prompt | Prompt (+ retrieval) | Bobot model |
| **Terbaik untuk** | Perilaku, format, nada | Fakta terbaru / pribadi | Gaya konsisten, tugas khusus |
| **Kesegaran pengetahuan** | N/A | Live (reindex data) | Dibekukan pada waktu pelatihan |
| **Biaya / upaya** | Terendah | Menengah (infra) | Tertinggi (pelatihan + data) |
| **Pembaruan** | Edit teks | Perbarui indeks | Latih ulang |

## Panduan keputusan

- Mulai dengan **prompting** — selesaikan dengan gratis terlebih dahulu.
- Butuh fakta yang model tidak tahu, atau yang berubah (dokumen, harga, data internal)? Gunakan **RAG**.
- Butuh gaya/format yang andal atau tugas khusus dalam skala besar, dan prompting tidak cukup konsisten? **Fine-tune**.
- Ini **digabungkan**: model yang di-fine-tune dengan RAG dan prompt yang baik adalah umum dalam produksi.

## Mengapa ini penting

Menggunakan alat yang salah sangat mahal: orang sering mencoba fine-tune untuk menambah pengetahuan (yang RAG lakukan lebih baik dan lebih murah) atau untuk memperbaiki perilaku (yang menangani prompting). Mengetahui bahwa **prompting membentuk perilaku, RAG memasok pengetahuan, dan fine-tuning mengubah model** memungkinkan Anda memilih pendekatan termurah yang berhasil — dan menggabungkannya secara sengaja daripada secara kebetulan.

	Prompt engineering	RAG	Fine-tuning
Perubahan	Prompt	Prompt (+ retrieval)	Bobot model
Terbaik untuk	Perilaku, format, nada	Fakta terbaru / pribadi	Gaya konsisten, tugas khusus
Kesegaran pengetahuan	N/A	Live (reindex data)	Dibekukan pada waktu pelatihan
Biaya / upaya	Terendah	Menengah (infra)	Tertinggi (pelatihan + data)
Pembaruan	Edit teks	Perbarui indeks	Latih ulang