Kako procjenjujete je li odgovor AI-ja pouzdana, posebno za produkcijski kod?

Question

Accepted Answer

Tretirajte odgovor AI-ja kao **siguran nacrt od educiranog ali nepouzdanog kolege**: koristan, često točan, ali nikada sam po sebi autoritativan. Povjerenje dolazi iz *provjere*, a ne od toga kako uvjerljivo izgleda rezultat.

## Ključno razmišljanje

**Sigurnost nije povezana s točnošću.** LLM generira bjegle tekst bez obzira je li istinit ili nije (to je prediktor sljedećeg tokena, ne spremnik činjenica). Halucinirani API i pravi čitaju se identično. Stoga ne možete procjenjivati povjerenje po tonu — samo po onome što možete potvrditi.

## Praktična checklist

- **Pokrenite ga.** Za kod, najjači signal je izvršavanje: testovi, provjera tipova, linter, kompajler. Kod koji prolazi stvarnu test svitu je daleko pouzdaniji od koda koji samo izgleda dobro.
- **Provjerite halucinirane API-je.** Potvrdite da svaka funkcija, metoda, zastavica i import zaista postoje — u dokumentaciji ili instaliranoj verziji, ne iz pamćenja. Izmišljeni-ali-vjerodostojni API-ji su klasičan neuspjeh.
- **Provjerite protiv autoritativnih izvora.** Unakrsno provjerite tvrdnje protiv službenih dokaza, standarda ili izvornog koda — ne proti ponovljenom iskazu modela.
- **Razmislite o rubnim slučajevima i sigurnosti.** Null/prazni unosi, istodobnost, putanje greške, injekcije, autorizacija. AI često rukuje sretnim putem i izostavlja opasne kutke.
- **Dajte prednost onome što možete potvrditi.** Favoorite pristupe koje možete testirati ili pogledati umjesto pametnih-ali-nejasnih onih za koje biste trebali vjera.
- **Zahtijevajte pregled od strane čovjeka za kritične putanje.** Autentifikacija, uplate, brisanje podataka, migracije, infrastruktura — čovjek koji razumije sustav mora odobriti, bez obzira kako dobar odgovor izgleda.

## Brzo pravilo

```text
Verifiable + verified        → trust
Verifiable + not yet checked → verify before using
Not verifiable               → don't depend on it
```

## Zašto je važno

U proizvodnji, krivi odgovor koji *izgleda* točno je opasniji od onoga što je očito slomljen, jer prođe kroz. Kako AI piše sve više koda, usko grlo se prebacuje s *generiranja* na *validaciju*. Seniorska prosudba je upravo ovo: znanje da tečnost nije dokaz, da **pouzdanost modela nema informacija o točnosti**, i da povjerenje mora biti ostvareno kroz testove, izvore i pregled čovjeka na svemu što je važno. Inženjeri koji ostaju pouzdani su oni koji provjeravaju umjesto da vjeruju.