Behandl et AI-svar som et selvsikkert utkast fra en kunnskapsrik men upålitelig kollega: nyttig, ofte riktig, men aldri autoritativt alene. Tillit kommer fra verifisering, ikke fra hvor overbevisende resultatet høres ut.
En LLM genererer flytende tekst enten det er sant eller ikke (det er en neste-token-prediktor, ikke et faktaarkiv). En hallusinert API og en ekte ser identisk ut. Derfor kan du ikke bedømme tillit basert på tone — bare på det du kan bekrefte.
Verifiable + verified → trust
Verifiable + not yet checked → verify before using
Not verifiable → don't depend on it
I produksjon er et feil svar som ser riktig ut farligere enn ett som er åpenbart ødelagt, fordi det slipper gjennom. Etterhvert som AI skriver mer kode, flyttes flaskehalsen fra generering til validering. Senior skjønn er nettopp dette: å vite at flytende språk ikke er bevis, at modellens selvtillit ikke inneholder informasjon om korrekthet, og at tillit må oppnås gjennom tester, kilder og menneskelig gjennomgang for alt som betyr noe. Ingenørene som forblir pålitelige er de som verifiserer i stedet for å tro på.