프롬프트 엔지니어링, RAG, 파인튜닝의 차이는 무엇이며 각각 언제 사용하나요?

Question

Accepted Answer

이 세 가지는 LLM이 원하는 대로 작동하게 하는 방법으로, **서로 다른 계층**에서 작동합니다: 프롬프팅은 *행동*을 형성하고, RAG는 *지식*을 주입하며, 파인튜닝은 *모델*을 바꿉니다.

## 세 가지 접근

- **프롬프트 엔지니어링** — 프롬프트 안의 지시, 맥락, 예시를 통해 모델의 행동을 형성합니다. 모델 자체는 전혀 바뀌지 않고, 더 잘 소통할 뿐입니다(system prompt, few-shot 예시, 출력 형식). 가장 저렴하고 빠르며 **첫 번째 수단**입니다.
- **RAG(retrieval-augmented generation)** — 쿼리 시점에 관련 문서(vector store, 데이터베이스, 검색에서)를 검색해 프롬프트에 삽입합니다. 모델은 제공된 그 맥락으로*부터* 답합니다. 지식이 **외부에 있거나, 비공개이거나, 변하는** 경우에 가장 좋습니다.
- **파인튜닝** — 자신의 예시로 모델을 추가 훈련해 **가중치(weights)**를 조정합니다. 일관된 스타일, 형식, 또는 좁은 기술을 모델에 새겨 넣습니다. 강력하지만 비용이 크고 **정적**입니다 — 지식이 훈련 시점에 고정됩니다.

## 비교

| | 프롬프트 엔지니어링 | RAG | 파인튜닝 |
|---|---|---|---|
| **바꾸는 것** | 프롬프트 | 프롬프트 (+ 검색) | 모델 가중치 |
| **적합한 용도** | 행동, 형식, 어조 | 최신 / 비공개 사실 | 일관된 스타일, 좁은 작업 |
| **지식 최신성** | 해당 없음 | 실시간(데이터 재색인) | 훈련 시점에 고정 |
| **비용 / 노력** | 가장 낮음 | 중간(인프라) | 가장 높음(훈련 + 데이터) |
| **업데이트** | 텍스트 수정 | 색인 갱신 | 재훈련 |

## 결정 가이드

- **프롬프팅**으로 시작하세요 — 먼저 무료로 해결해 보세요.
- 모델이 모르거나 변하는 사실(문서, 가격, 내부 데이터)이 필요한가요? **RAG**를 쓰세요.
- 신뢰할 수 있는 스타일/형식이나 대규모의 특화 작업이 필요한데 프롬프팅이 충분히 일관되지 않나요? **파인튜닝**하세요.
- 이들은 **결합됩니다**: 파인튜닝된 모델에 RAG와 좋은 프롬프트를 함께 쓰는 것이 production에서 흔합니다.

## 왜 중요한가

잘못된 도구를 고르면 비쌉니다: 사람들은 흔히 지식을 추가하려고 파인튜닝을 시도하거나(RAG가 더 잘, 더 싸게 함) 행동을 고치려고 시도합니다(프롬프팅이 처리함). **프롬프팅은 행동을 형성하고, RAG는 지식을 공급하며, 파인튜닝은 모델을 바꾼다**는 것을 알면, 효과가 있는 가장 저렴한 접근을 고르고 — 우연이 아니라 의도적으로 이들을 결합할 수 있습니다.

	프롬프트 엔지니어링	RAG	파인튜닝
바꾸는 것	프롬프트	프롬프트 (+ 검색)	모델 가중치
적합한 용도	행동, 형식, 어조	최신 / 비공개 사실	일관된 스타일, 좁은 작업
지식 최신성	해당 없음	실시간(데이터 재색인)	훈련 시점에 고정
비용 / 노력	가장 낮음	중간(인프라)	가장 높음(훈련 + 데이터)
업데이트	텍스트 수정	색인 갱신	재훈련