LLM-களுக்கு ஏன் மாயமான பதிலுகள் (hallucination) ஏற்படுகின்றன, மற்றும் அதை எவ்வாறு குறைக்கலாம்?

Question

Accepted Answer

ஒரு LLM **hallucinate** செய்கிறது என்பது அது தன்னம்பிக்கையுடன் மற்றும் நம்பகமாகத் தோன்றும் ஆனால் உண்மைக்குப் பொருந்தாத அல்லது கற்பனையான உரையை உருவாக்குவதாகும். இது ஏன் நிகழ்கிறது என்பதைப் புரிந்துகொள்ள, மாதிரி உண்மையில் என்ன செய்கிறது என்பதை முதலில் புரிந்துகொள்ள வேண்டும்.

## LLM எவ்வாறு செயல்படுகிறது (சுருக்கமாக)

சாধாரணமாக, ஒரு LLM **next-token predictor** ஆகும். இதுவரை உள்ள உரை கொடுக்கப்பட்டால், **பயிற்சியின் போது கற்ற புள்ளிவிவர வடிவங்களின்** அடிப்படையில் அடுத்த token (word/piece) மிகவும் சாத்தியமுள்ளதை கணிக்கிறது — தரவுத்தளத்தில் உண்மைகளைக் தேடுவதன் மூலம் அல்ல.

```text
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
```

## Hallucinations ஏன் ஏற்படுகின்றன

- **இது உருவாக்குகிறது, மீட்டெடுப்பது இல்லை.** மாதிரி *சரிபார்க்கப்பட்ட* உண்மைகள் அல்ல, *நம்பகமான* உரையை உருவாக்குகிறது. சரளமை மற்றும் உண்மை சுயாதீனமாக உள்ளன.
- **உள்ளுணர்ந்த உண்மை சரிபார்ப்பு இல்லை.** மாதிரிக்குள் எதுவும் வெளியீட்டை எதிராக சரிபார்ப்பதில்லை.
- **இடைவெளிகள் தன்னம்பிக்கையுடன் நிரம்புகின்றன.** பயிற்சி தரவு மெல்லியதாக, தெளிவற்றதாக, அல்லது விடுபட்டிருக்கும் போது (அhidr API கள், சமீபத்திய நிகழ்வுகள், தெளிவற்ற மக்கள்), மாதிரி இன்னும் புள்ளிவிவரம் ரீதியாக சாத்தியமுள்ள தொடர்ச்சியை வெளியிடுகிறது — இது தவறாக இருக்கலாம்.
- **தன்னம்பிக்கை சரியல்ல.** ஒரு உடனோ மேற்கோள் உண்மையான மேற்கோளைப் போலவே சரளமாகத் தোன்றுகிறது.

## அதை குறைக்க

- **RAG / sources மூலம் நிலைமை கண்டறியுங்கள்.** தொடர்புடைய ஆவணங்களை மீட்டெடுத்து அவற்றை prompt-ல் வைக்கவும், இதனால் மாதிரி நினைவக்குக் கொதுமாக அல்ல, *உண்மையான* உரையிலிருந்து பதிலளிக்கிறது.
- **மேற்கோள்களைக் கேளுங்கள்** மற்றும் அவற்றை சரிபார்க்கவும் — உடனாக மேற்கோள்கள் hallucination ஐ வெளிப்படுத்தும்.
- **உண்மைச் செயல்பாடுகளுக்கு temperature குறைக்கவும்**, இதனால் மாதிரி உচ்ச நிகழ்தகவு (பாதுகாப்பான) tokens தேர்ந்தெடுக்கிறது.
- **"எனக்குத் தெரியாது" அனுமதிக்கவும்.** நிশ্சயமற்றிருக்கும் போது அதைச் சொல்ல மாதிரিக்கு வெளிப்படையாக உத்தரவிடவும், கற்பனை செய்ய கட்டாயப்படுத்தும் அழுத்தத்தை நீக்கிவிடவும்.
- **Tools மூலம் சரிபார்க்கவும்.** மாதிரির recall-ஐ நம்புவதற்குப் பதிலாக code-ஐ இயக்கவும், calculator/search/database-ஐ query செய்யவும், அல்லது API-ஐ அழைக்கவும்.
- **Scope குறுக்கவும்.** குறிப்பிட்ட, நன்கு வரையறுக்கப்பட்ட prompts விறுவிறான, திறந்த நிறைவுற்ற prompts-ல் இருந்து குறைவாக hallucinate செய்யும்.

## இது ஏன் முக்கியமானது

LLM-கள் உண்மையான பயனர்கள் நம்பிக்கை வைக்கும் பொருட்களில்점차 உட்பொதிக்கப்பட்டுள்ளன. மாதிரி **உண்மைகளை மீட்டெடுப்பதற்குப் பதிலாக நம்பகமான உரையை உருவாக்குகிறது** என்பதால், hallucination ஒரு சாதாரண நடத்தை, ஒரு சாதாரண பிழை அல்ல — எனவே பொறியாளர்கள் அதைச் சுற்றியபடி வடிவமைக்க வேண்டும். இது ஏன் நிகழ்கிறது (உண்மை சரிபார்ப்பு இல்லாமல் next-token கணிப்பு) எனபதை அறிவது, *எவ்வாறு* அதைக் குறைப்பது (grounding, citations, குறைந்த temperature, உதரிக்க அனுமதி, மற்றும் வெளிப்புற சரிபார்ப்பு) என்பதைக் கூறுகிறது. LLM வெளியீட்டை oracle ஆக அல்ல, சரிபார்க்கப்பட வேண்டிய ஒரு draft ஆக கருதுதல் — இது ஒரு நம்பகமான বৈশিষ்ট்যத்திற்கும் ஒரு தன்னம்பிக்கையான பொறுப்புக்கும் இடையிலான வேறுபாடு.