Anggap jawapan AI sebagai draf yang penuh yakin daripada rakan sekerja yang berpengetahuan tetapi tidak boleh dipercayai sepenuhnya: berguna, selalunya betul, tetapi tidak pernah berwibawa dengan sendirinya. Kepercayaan datang daripada pengesahan, bukan daripada betapa meyakinkannya output itu kedengaran.
Pola minda teras
Sebuah LLM menjana teks yang lancar sama ada ia benar atau tidak (ia adalah peramal token seterusnya, bukan stor fakta). API yang berhalusinasi dan API yang sebenar dibaca dengan cara yang sama. Jadi anda tidak boleh menilai kepercayaan berdasarkan nada — hanya berdasarkan apa yang anda boleh sahkan.