Behandl et AI-svar som en selvsikker udkast fra en velvidende men upålidelig kollega: brugbar, ofte korrekt, men aldrig autoritativ på egen hånd. Tillid kommer fra verifikation, ikke fra hvor overbevisende resultatet lyder.
En LLM genererer flydende tekst, uanset om det er sandt eller ej (det er en next-token-prediktor, ikke et faktum-lager). En hallucinereret API og en virkelig læses identisk. Så du kan ikke bedømme tillid ud fra tonen — kun ud fra det, du kan bekræfte.
Verifiable + verified → trust
Verifiable + not yet checked → verify before using
Not verifiable → don't depend on it
I produktion er et forkert svar, som ser rigtigt ud, mere farligt end et, der er åbenbart brudt, fordi det sneglinger sig igennem. I takt med at AI skriver mere kode, forskydes flaskehalsen fra generering til validering. Senior dømmekraft er præcis dette: at vide, at flydende tale ikke er bevis, at modellens selvtillid ikke bærer information om korrekthed, og at tillid skal tjenes gennem tests, kilder og human review på alt, der betyder noget. De ingeniører, der forbliver pålidelige, er dem, der verificerer i stedet for at tro på det.