Hva er forskjellen mellom prompt engineering, RAG og fine-tuning, og når bruker du hver av dem?

• Prompt engineering — form modellens atferd gjennom instruksjoner, kontekst og eksempler i prompten. Ingenting ved modellen endres; du kommuniserer bare bedre (systemprompts, few-shot-eksempler, outputformat). Billigste og raskeste; ditt første valg.
• RAG (retrieval-augmented generation) — ved spørsmålstidspunktet henter du relevante dokumenter (fra en vektorlagring, database eller søk) og setter dem inn i prompten. Modellen svarer basert på den leverte konteksten. Best når kunnskapen er ekstern, privat eller endres.
• Fine-tuning — fortsett trening av modellen på dine egne eksempler, og juster dens vekter. Dette bak inn en konsistent stil, format eller smal ferdighet. Kraftig, men kostbart og statisk — kunnskapen er fryst på treningsid.

Sammenligning

Beslutningsveiledning

• Start med prompting — løs det gratis først.
• Trenger du fakta som modellen ikke vet, eller som endres (dokumenter, priser, interne data)? Bruk RAG.
• Trenger du en pålitelig stil/format eller en spesialisert oppgave i stor skala, og prompting er ikke konsistent nok? Fine-tune.
• Disse kombineres: en fine-tunet modell med RAG og en god prompt er vanlig i produksjon.

Hvorfor det betyr noe

Å gripe til feil verktøy er dyrt: folk prøver ofte å fine-tune for å legge til kunnskap (som RAG gjør bedre og billigere) eller for å fikse atferd (som prompting håndterer). Å vite at prompting former atferd, RAG leverer kunnskap, og fine-tuning endrer modellen lar deg velge den billigste tilnærmingen som fungerer — og kombinere dem bevisst i stedet for ved et uhell.