Apakah perbezaan antara prompt engineering, RAG, dan fine-tuning, dan bila anda menggunakan setiap satunya?

Question

Accepted Answer

Ini ialah tiga cara untuk membuat LLM melakukan apa yang anda mahu, bekerja pada **lapisan yang berbeza**: prompting membentuk *tingkah laku*, RAG menyuntik *pengetahuan*, dan fine-tuning mengubah *model*.

## Tiga pendekatan

- **Prompt engineering** — membentuk tingkah laku model melalui arahan, konteks, dan contoh dalam prompt. Tiada apa-apa tentang model yang berubah; anda hanya berkomunikasi dengan lebih baik (system prompt, contoh few-shot, format output). Paling murah dan paling pantas; **pilihan pertama** anda.
- **RAG (retrieval-augmented generation)** — pada masa pertanyaan, dapatkan semula dokumen yang berkaitan (daripada vector store, pangkalan data, atau carian) dan masukkannya ke dalam prompt. Model menjawab *daripada* konteks yang dibekalkan itu. Terbaik apabila pengetahuannya **luaran, peribadi, atau sentiasa berubah**.
- **Fine-tuning** — teruskan melatih model pada contoh anda sendiri, melaraskan **weight**-nya. Ini menyemai gaya, format, atau kemahiran sempit yang konsisten. Berkuasa tetapi mahal dan **statik** — pengetahuan dibekukan pada masa latihan.

## Perbandingan

| | Prompt engineering | RAG | Fine-tuning |
|---|---|---|---|
| **Mengubah** | Prompt | Prompt (+ retrieval) | Weight model |
| **Terbaik untuk** | Tingkah laku, format, nada | Fakta terkini / peribadi | Gaya konsisten, tugas sempit |
| **Kesegaran pengetahuan** | T/B | Langsung (indeks semula data) | Dibekukan pada masa latihan |
| **Kos / usaha** | Paling rendah | Sederhana (infra) | Paling tinggi (latihan + data) |
| **Mengemas kini** | Edit teks | Kemas kini indeks | Latih semula |

## Panduan keputusan

- Mulakan dengan **prompting** — selesaikannya secara percuma dahulu.
- Perlukan fakta yang model tidak tahu, atau yang berubah (dokumen, harga, data dalaman)? Gunakan **RAG**.
- Perlukan gaya/format yang boleh dipercayai atau tugas khusus pada skala besar, dan prompting tidak cukup konsisten? **Fine-tune**.
- Pendekatan ini **boleh digabungkan**: model yang telah di-fine-tune dengan RAG dan prompt yang baik adalah perkara biasa dalam produksi.

## Mengapa ia penting

Memilih alat yang salah adalah mahal: orang sering cuba fine-tune untuk menambah pengetahuan (yang dilakukan oleh RAG dengan lebih baik dan lebih murah) atau untuk membetulkan tingkah laku (yang dikendalikan oleh prompting). Mengetahui bahawa **prompting membentuk tingkah laku, RAG membekalkan pengetahuan, dan fine-tuning mengubah model** membolehkan anda memilih pendekatan termurah yang berkesan — dan menggabungkannya secara sengaja dan bukan secara tidak sengaja.

	Prompt engineering	RAG	Fine-tuning
Mengubah	Prompt	Prompt (+ retrieval)	Weight model
Terbaik untuk	Tingkah laku, format, nada	Fakta terkini / peribadi	Gaya konsisten, tugas sempit
Kesegaran pengetahuan	T/B	Langsung (indeks semula data)	Dibekukan pada masa latihan
Kos / usaha	Paling rendah	Sederhana (infra)	Paling tinggi (latihan + data)
Mengemas kini	Edit teks	Kemas kini indeks	Latih semula