Bir yapay zeka yanıtını bilgili ancak güvenilmez bir meslektaştan gelen kendinden emin bir taslak olarak değerlendirin: yararlı, çoğu zaman doğru, ancak kendi başına asla otorite değildir. Güven çıktının ne kadar ikna edici olduğundan değil, doğrulamadan gelir.
Temel düşünce
Bir LLM, gerçek olup olmadığına bakılmaksızın akıcı metin üretir (sonraki token tahmincisidir, gerçek depolaması değildir). Hallüsinasyon yapılmış bir API ve gerçek bir API aynı görünür. Bu nedenle güveni tona göre değerlendirememektedir — yalnızca doğrulayabildiğiniz şeylere göre.