LLM ਕਿਉਂ ਹਲੁਸੀਨੇਟ ਕਰਦੇ ਹਨ, ਅਤੇ ਤੁਸੀਂ ਇਸ ਨੂੰ ਕਿਵੇਂ ਘਟਾ ਸਕਦੇ ਹੋ?

Question

Accepted Answer

ਇੱਕ LLM **hallucinates** ਕਰਦਾ ਹੈ ਜਦੋਂ ਇਹ ਅਜਿਹਾ ਟੈਕਸਟ ਤਿਆਰ ਕਰਦਾ ਹੈ ਜੋ ਆਤਮਵਿਸ਼ਵਾਸੀ ਅਤੇ ਮਨਚਾਹਿਆ ਲੱਗਦਾ ਹੈ ਪਰ ਤੱਥ ਦਿੱਤ ਗਲਤ ਜਾਂ ਰਚਿਤ ਹੈ। ਇਹ ਸਮਝਣ ਲਈ ਕਿ ਇਹ ਕਿਉਂ ਹੁੰਦਾ ਹੈ, ਤੁਹਾਨੂੰ ਪਹਿਲਾਂ ਇਹ ਸਮਝਣਾ ਲਾਜ਼ਮੀ ਹੈ ਕਿ ਮਾਡਲ ਅਸਲ ਵਿੱਚ ਕੀ ਕਰਦਾ ਹੈ।

## LLM ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ (ਸੰਖੇਪ ਵਿੱਚ)

ਉੱਚ ਪੱਧਰ ਤੇ, ਇੱਕ LLM ਇੱਕ **next-token predictor** ਹੈ। ਅਜੋਕੇ ਟੈਕਸਟ ਨੂੰ ਦੇਖਦਿਆਂ, ਇਹ ਅਗਲੇ ਸਭ ਤੋਂ ਸੰਭਾਵਿਤ token (ਸ਼ਬਦ/ਖੰਡ) ਦੀ ਭਵਿਸ਼ਯਵਾਣੀ ਕਰਦਾ ਹੈ ਜੋ **ਸਿਖਲਾਈ ਦੌਰਾਨ ਸਿੱਖੇ ਗਏ ਅੰਕੜਾ ਪੈਟਰਨ** ਦੇ ਆਧਾਰ ਤੇ ਹਨ — ਇੱਕ ਡਾਟਾਬੇਸ ਵਿੱਚ ਤੱਥਾਂ ਨੂੰ ਦੇਖ ਕੇ ਨਹੀਂ।

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Hallucinations ਕਿਉਂ ਹੁੰਦੇ ਹਨ

- **ਇਹ ਤਿਆਰ ਕਰਦਾ ਹੈ, ਪ੍ਰਾਪਤ ਨਹੀਂ ਕਰਦਾ।** ਮਾਡਲ *ਮਨਚਾਹਿਆ* ਟੈਕਸਟ ਤਿਆਰ ਕਰਦਾ ਹੈ, *ਪ੍ਰਮਾਣਿਤ* ਤੱਥ ਨਹੀਂ। ਮੁਲਾਵਾ ਅਤੇ ਸਚਾਈ ਸੁਤੰਤਰ ਹਨ।
- **ਕੋਈ ਬਿਲਤ-ਵਿਚ ਸੱਚ ਜਾਂਚ ਨਹੀਂ।** ਮਾਡਲ ਦੇ ਅੰਦਰ ਕੋਈ ਚੀਜ਼ ਆਉਟਪੁੱਟ ਦੀ ਅਸਲੀਅਤ ਨਾਲ ਤੁਲਨਾ ਨਹੀਂ ਕਰਦੀ।
- **ਪਾੜੀ ਆਤਮਵਿਸ਼ਵਾਸ ਨਾਲ ਭਰੇ ਜਾਂਦੀ ਹੈ।** ਜਦੋਂ ਸਿਖਲਾਈ ਡਾਟਾ ਪਤਲਾ, ਅਸਪਸ਼ਟ, ਜਾਂ ਗਾਇਬ ਹੋ (ਬਹੁਤ ਘੱਟ APIs, ਹਾਲ ਦੀ ਘਟਨਾਵਾਂ, ਅਸਪਸ਼ਟ ਲੋਕ), ਮਾਡਲ ਅਜੇ ਵੀ ਅੰਕੜਾ ਨਿਰਧਾਰਤ ਜਾਰੀ ਉਤਸਰਜਿਤ ਕਰਦਾ ਹੈ — ਜੋ ਗਲਤ ਹੋ ਸਕਦਾ ਹੈ।
- **ਵਿਸ਼ਵਾਸ ਸਚਾਈ ਨਹੀਂ ਹੈ।** ਇੱਕ ਰਚਿਤ ਹਵਾਲਾ ਬਿਲਕੁਲ ਉਸੇ ਤੋਂ ਮੁਲਾਵਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ ਜਿਵੇਂ ਇੱਕ ਅਸਲੀ।

## ਇਸ ਨੂੰ ਕਿਵੇਂ ਘਟਾਇਆ ਜਾਵੇ

- **RAG / sources ਨਾਲ ਗ੍ਰਾਊਂਡ ਕਰੋ।** ਪ੍ਰਸੰਗਕ ਦਸਤਾਵੇਜ਼ ਪ੍ਰਾਪਤ ਕਰੋ ਅਤੇ ਉਹਨਾਂ ਨੂੰ prompt ਵਿੱਚ ਰੱਖੋ, ਤਾਂ ਜੋ ਮਾਡਲ ਮੈਮੋਰੀ ਦੀ ਬਜਾਏ *ਅਸਲੀ* ਟੈਕਸਟ ਤੋਂ ਜਵਾਬ ਦੇ।
- **ਹਵਾਲਿਆਂ ਲਈ ਪੁੱਛੋ** ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਪੜਤਾਲ ਕਰੋ — ਰਚਿਤ ਸੰਦਰਭ hallucination ਨੂੰ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ।
- **Factual tasks ਲਈ temperature ਘਟਾਓ**, ਤਾਂ ਜੋ ਮਾਡਲ ਉੱਚ-ਸੰਭਾਵਨਾ (ਸੁਰੱਖਿਆ) tokens ਚੁਣੇ।
- **"I don't know" ਦੀ ਆਗਿਆ ਦਿਓ।** ਸਪੱਸ਼ਟ ਤੌਰ ਤੇ ਮਾਡਲ ਨੂੰ ਹੁਕਮ ਦਿਓ ਕਿ ਅਨਿਸ਼ਚਿਤ ਹੋਣ ਤੇ ਅਜਿਹਾ ਕਹੇ, ਕੁਝ ਵੀ ਰਚਣ ਦਾ ਦਬਾਓ ਹਟਾਉਂਦਿਆਂ।
- **ਸੰਦ ਨਾਲ ਪ੍ਰਮਾਣਿਤ ਕਰੋ।** ਕੋਡ ਚਲਾਓ, ਇੱਕ ਕੈਲਕੁਲੇਟਰ/ਖੋਜ/ਡਾਟਾਬੇਸ ਦੀ ਪੁੱਛਗਿੱਛ ਕਰੋ, ਜਾਂ ਇੱਕ API ਨੂੰ ਕਾਲ ਕਰੋ ਬਜਾਏ ਮਾਡਲ ਦੀ ਯਾਦ 'ਤੇ ਭਰੋਸੇ ਦੇ।
- **Scope ਨੂੰ ਸੀਮਾਬੱਧ ਕਰੋ।** ਖਾਸ, ਚੰਗੀ-ਬਾਊਂਡ ਕੀਤੇ prompts ਖੁੱਲ-ਸਿਰੇ ਨਾਲੋਂ ਘੱਟ hallucinate ਕਰਦੇ ਹਨ।

## ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

LLMs ਦੀ ਹੋ ਰਹੀ ਹੈ ਉਤਪਾਦਾਂ ਵਿੱਚ ਜੜੀ ਜੋ ਅਸਲੀ ਉਪਭੋਗੀ ਵਿਸ਼ਵਾਸ ਕਰਦੇ ਹਨ। ਕਿਉਂਕਿ ਮਾਡਲ **ਤੱਥਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਬਜਾਏ ਮਨਚਾਹਿਆ ਟੈਕਸਟ ਤਿਆਰ ਕਰਦਾ ਹੈ**, hallucination ਇੱਕ ਅੰਤਰਨਿਹਿਤ ਵਿਵਹਾਰ ਹੈ, ਕੋਈ ਪ੍ਰਮੋਦਿਕ ਬਗ ਨਹੀਂ — ਤਾਂ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਇਸ ਚਾਰਿਆਂ ਤੇ ਡਿਜ਼ਾਈਨ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਇਹ ਜਾਨਣਾ *ਕਿਸ ਲਈ* ਇਹ ਹੁੰਦਾ ਹੈ (next-token prediction ਕੋਈ ਸੱਚ ਜਾਂਚ ਨਹੀਂ ਹੈ) ਤੁਹਾਨੂੰ ਦੱਸਦਾ ਹੈ *ਕਿਵੇਂ* ਇਸਨੂੰ ਕਮ ਕਰਿਆ ਜਾਵੇ: grounding, citations, lower temperature, abstain ਲਈ permission, ਅਤੇ external verification। LLM ਆਉਟਪੁੱਟ ਨੂੰ ਚੈਕ ਕਰਨ ਲਈ ਇੱਕ ਡ੍ਰਾਫਟ ਵਜੋਂ ਮਨਿਆ — ਇੱਕ oracle ਵਜੋਂ ਨਹੀਂ — ਇੱਕ ਨਿਰਭਰ ਫਿਚਰ ਅਤੇ ਇੱਕ ਆਤਮਵਿਸ਼ਵਾਸੀ ਦੇਣਦਾਰੀ ਵਿਚਕਾਰ ਫਰਕ ਹੈ।