एक LLM व्यामोह करतो जेव्हा ते असा मजकूर तयार करते जो आत्मविश्वासी आणि विश्वासार्ह असे दिसतो परंतु तथ्यांच्या दृष्टिकोनातून चुकीचा किंवा काल्पनिक असतो. हे का होते हे समजण्यासाठी, तुम्हाला प्रथम हे समजणे आवश्यक आहे की मॉडेल खरेतर काय करतो.
उच्च स्तरावर, एक LLM एक आहे. आजपर्यंतचा मजकूर दिल्यास, ते आधारित सर्वाधिक संभाव्य पुढील टोकन (शब्द/तुकडा) भविष्यवाणी करतो — डेटाबेसमध्ये तथ्य शोधून नाही.
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
LLM हे वाढत्या प्रमाणात उत्पादनांमध्ये एम्बेड केलेले आहेत ज्यावर वास्तविक वापरकर्त्यांचा विश्वास आहे. कारण मॉडेल तथ्य पुनः प्राप्त करणे ऐवजी प्रशंसनीय मजकूर व्युत्पन्न करतो, व्यामोह हे एक अंतर्निहित वर्तन आहे, अधूनमधून बग नाही — त्यामुळे अभियंत्यांनी त्याभोवती डिজाइन करणे आवश्यक आहे. हे का होते हे जाणून घेणे (no truth check सह next-token भविष्यवाणी) तुम्हाला हे कसे कमी करायचे ते सांगते: भूमिका निर्धारण, उद्धरण, कमी तापमान, воздержать करण्याची अनुमती, आणि बाह्य सत्यापन. LLM आउटपुटला एक मसुदा म्हणून मानणे ज्याची तपासणी करणे आवश्यक आहे — एक ओरॅकल नाही — हा एक विश्वसनीय वैशिष्ट्य आणि एक आत्मविश्वासी दायित्व यांच्यामधील फरक आहे.