Hvad er forskellen mellem prompt engineering, RAG og fine-tuning, og hvornår bruger du hver enkelt?

• Prompt engineering — form modelens adfærd gennem instruktioner, kontekst og eksempler i prompten. Intet ved modellen ændres; du kommunikerer bare bedre (system prompts, few-shot eksempler, output format). Billigste og hurtigste; dit første valg.
• RAG (retrieval-augmented generation) — hent relevante dokumenter (fra en vektorlager, database eller søgning) ved forespørgselstidspunktet og indsæt dem i prompten. Modellen svarer ud fra den leverede kontekst. Bedst når viden er ekstern, privat eller ændrer sig.
• Fine-tuning — fortsæt træningen af modellen på dine egne eksempler, justering af dens vægte. Dette indkoder en konsistent stil, format eller snæver færdighed. Kraftfuldt men dyrt og statisk — viden er frosset ved træningssiden.

Sammenligning

Beslutningsvejledning

• Start med prompting — løs det gratis først.
• Har du brug for fakta, som modellen ikke kender, eller som ændrer sig (dokumenter, priser, interne data)? Brug RAG.
• Har du brug for en pålidelig stil/format eller en specialiseret opgave i skala, og prompting er ikke konsekvent nok? Fine-tune.
• Disse kombineres: en fine-tunet model med RAG og et godt prompt er almindeligt i produktion.

Hvorfor det betyder noget

At grille det forkerte værktøj er dyrt: folk forsøger ofte at fine-tune for at tilføje viden (hvilket RAG gør bedre og billigere) eller at reparere adfærd (hvilket prompting håndterer). At vide, at prompting former adfærd, RAG leverer viden, og fine-tuning ændrer modellen lader dig vælge den billigste tilgang, der virker — og kombinere dem bevidst i stedet for ved et uheld.