Käsittele tekoälyn antamaa vastausta itsevarman luonnoksena asiantuntevasta mutta epäluotettavasta kollegasta: se on hyödyllinen, usein oikea, mutta ei koskaan viranomainen itsessään. Luottamus tulee verifikaatiosta, ei siitä, kuinka vakuuttava tulos kuulostaa.
Perusajattelutapa
LLM tuottaa sujuvaa tekstiä riippumatta siitä, onko se totta (se on seuraavan tunnuksen ennustaja, ei tosiasiain tietovaranto). Hallusinoitu API ja todellinen API näyttävät identtisiltä. Joten et voi arvioida luottamusta äänensävyn perusteella — vain sen perusteella, mitä voit vahvistaa.
