एक LLM तब hallucinate करता है जब वह ऐसा text उत्पन्न करता है जो आत्मविश्वास से भरा और प्रशंसनीय लगता है लेकिन factually गलत या मनगढ़ंत होता है। यह समझने के लिए कि ऐसा क्यों होता है, आपको पहले यह समझना होगा कि model वास्तव में क्या करता है।
एक LLM कैसे काम करता है (संक्षेप में)
उच्च स्तर पर, एक LLM एक है। अब तक के text को देखते हुए, यह के आधार पर सबसे संभावित अगले token (शब्द/टुकड़े) की भविष्यवाणी करता है — किसी database में facts खोजकर नहीं।
