يحدث الهلوسة في نموذج اللغة عندما ينتج نصًا يبدو واثقًا ومعقولًا لكنه خاطئ أو مختلق في الواقع. لفهم السبب، يجب عليك أولًا فهم ما يفعله النموذج بالفعل.
على المستوى العام، نموذج اللغة هو . بناءً على النص حتى الآن، يتنبأ بالرمز (الكلمة/الجزء) التالي الأكثر احتمالًا بناءً على — وليس من خلال البحث عن الحقائق في قاعدة بيانات.
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
تُدمج نماذج اللغة بشكل متزايد في منتجات يثق بها المستخدمون الحقيقيون. لأن النموذج يولد نصًا معقولًا بدلًا من استرجاع الحقائق، فإن الهلوسة هي سلوك متأصل وليست خطأ عرضي — لذا يجب على المهندسين التصميم حولها. معرفة السبب (التنبؤ بالرمز التالي بدون فحص الحقيقة) تخبرك بكيفية تخفيفها: الربط، الاستشهادات، درجة حرارة أقل، الإذن بالامتناع، والتحقق الخارجي. التعامل مع مخرجات LLM كمسودة يتم التحقق منها — وليس كنبي — هو الفرق بين ميزة موثوقة والتزام واثق به لكنه خاطئ.