Cum judeci dacă un răspuns de la AI este de încredere, mai ales pentru cod de producție?

Question

Accepted Answer

Tratează un răspuns de la AI ca pe un **proiect sigur din partea unui coleg cu cunoștințe dar nesigur**: util, adesea corect, dar niciodată autoritativ singur. Încrederea vine din *verificare*, nu din cât de convingător sună rezultatul.

## Mentalitatea de bază

**Încrederea de sine nu are legătură cu corectitudinea.** Un LLM generează text fluent indiferent dacă este adevărat sau nu (este un predictor de token-uri următoare, nu un depozit de fapte). O API halucinnată și una reală arată identic. Deci nu poți judeca încrederea după ton — doar după ceea ce poți confirma.

## O listă practică de verificare

- **Rulează-l.** Pentru cod, semnalul cel mai puternic este execuția: teste, type checker, linter, compiler. Codul care trece o suită reală de teste este mult mai de încredere decât codul care arată doar bine.
- **Verifică pentru API-uri halucinate.** Verifica că fiecare funcție, metodă, flag și import există cu adevărat — în docs sau în versiunea instalată, nu din memorie. API-urile inventate dar plauzibile sunt eșecul clasic.
- **Verifica împotriva surselor de autoritate.** Compară afirmațiile cu documentele oficiale, standardul sau codul sursă — nu cu reafirmarea propriului model.
- **Raționează despre cazuri extreme și securitate.** Intrări nule/goale, concurență, căi de eroare, injecție, autorizare. AI-ul adesea gestionează calea fericită și omite colțurile periculoase.
- **Preferi ceea ce poți confirma.** Favorizează abordările pe care le poți testa sau căuta peste cele inteligente dar opace pe care ar trebui să le iei cu bună credință.
- **Necesită revizuire umană pentru căi critice.** Autentificare, plăți, ștergere de date, migrații, infrastructură — o persoană care înțelege sistemul trebuie să aprobe, indiferent cât de bun arată răspunsul.

## O regulă rapidă

```text
Verifiable + verified        → trust
Verifiable + not yet checked → verify before using
Not verifiable               → don't depend on it
```

## De ce este important

În producție, un răspuns greșit care *arată* bine este mai periculos decât unul care este evident rupt, pentru că trece nepercepus. Pe măsură ce AI scrie mai mult cod, gâtul de sticlă se mută de la *generare* la *validare*. Judecata senior este tocmai aceasta: știind că fluența nu este dovadă, că **încrederea în sine a modelului nu conține informații despre corectitudine**, și că încrederea trebuie câștigată prin teste, surse și revizuire umană pentru orice care contează. Inginerii care rămân de încredere sunt cei care verifica în loc să creadă.