Jaký je rozdíl mezi prompt engineeringem, RAG a fine-tuningem a kdy se používá každý z nich?

• Prompt engineering — tvarujte chování modelu pomocí instrukcí, kontextu a příkladů v promptu. Na modelu se nic nemění; prostě komunikujete lépe (systémové prompty, few-shot příklady, formát výstupu). Nejlevnější a nejrychlejší; vaše první volba.
• RAG (retrieval-augmented generation) — v čase dotazu načtěte relevantní dokumenty (z vektorového úložiště, databáze nebo vyhledávání) a vložte je do promptu. Model odpovídá na základě poskytnutého kontextu. Nejlepší, když jsou znalosti externí, privátní nebo se mění.
• Fine-tuning — pokračujte v trénování modelu na vašich vlastních příkladech, upravte jeho váhy. Tímto způsobem zaberete konzistentní styl, formát nebo úzkou dovednost. Výkonné, ale nákladné a statické — znalosti jsou zmrazeny v čase tréninku.

Porovnání

Průvodce rozhodováním

• Začněte s promptingem — nejdříve to vyřešte zadarmo.
• Potřebujete fakta, která model nezná, nebo která se mění (dokumenty, ceny, interní data)? Použijte RAG.
• Potřebujete spolehlivý styl/formát nebo specializovanou úlohu ve velkém měřítku a prompting není dostatečně konzistentní? Fine-tunujte.
• Tyto přístupy se kombinují: model fine-tuned s RAG a dobrým promptem je běžný v produkčním prostředí.

Proč na to záleží

Sáhnutí po nesprávném nástroji je nákladné: lidé se často pokouší fine-tunovat, aby přidali znalosti (což RAG dělá lépe a levněji) nebo opravili chování (což zvládá prompting). Vědomí, že prompting tvaruje chování, RAG dodává znalosti a fine-tuning mění model, vám umožní vybrat si nejlevnější přístup, který funguje — a kombinovat je záměrně místo náhodě.