Design av AI-drevne applikasjoner innebærer å velge riktig AI-tilnærming, håndtere AIs unike karakteristikker (ikke-determinisme, kostnad, latens, feil), og designe for pålitelighet rundt iboende ufullkomne AI. Det kombinerer programvareteknikk med AI-spesifikke hensyn.
Velge AI-tilnærming
→ PROMPTING (LLM APIs) → for most LLM tasks (simplest); good prompts go far
→ RAG → to ground answers in your own/current DATA (reduce hallucination)
→ FINE-TUNING → for specific behavior/style prompting can't achieve
→ TRADITIONAL ML → for structured prediction/classification with data
→ PRE-BUILT services → vision, speech, etc. (don't reinvent)
→ match the approach to the problem (often: prompting + RAG for LLM apps)
