จงปฏิบัติต่อคำตอบของ AI เสมือน ร่างที่ดูมั่นใจจากเพื่อนร่วมงานที่มีความรู้แต่ไว้ใจไม่ได้ มีประโยชน์ ถูกบ่อยครั้ง แต่ไม่เคยเป็นแหล่งอ้างอิงที่เชื่อถือได้ด้วยตัวมันเอง ความน่าเชื่อถือมาจากการ ตรวจสอบ ไม่ใช่จากความน่าเชื่อของผลลัพธ์
กรอบความคิดหลัก
LLM สร้างข้อความที่ลื่นไหลออกมาไม่ว่ามันจะจริงหรือไม่ (มันคือตัวทำนาย token ถัดไป ไม่ใช่คลังข้อเท็จจริง) API ที่ hallucinate ขึ้นมากับ API จริงอ่านดูเหมือนกันทุกประการ ดังนั้นคุณไม่สามารถตัดสินความน่าเชื่อถือจากน้ำเสียง ได้แต่จากสิ่งที่คุณยืนยันได้เท่านั้น