AI-ல் உள்ள சார்பு (Bias) என்றால் என்ன மற்றும் இது ஏன் ஒரு கவலையாக உள்ளது?

Question

Accepted Answer

**AI-ல் உள்ள சார்பு** என்பது மாதிரிகளில் ஏற்படும் முறையான நியாயமற்ற தன்மையைக் குறிக்கிறது — குறிப்பிட்ட குழுக்களைத் தகுதியற்றவாறு பாதிக்கும் முடிவுகளை வெளிப்படுத்துகிறது, பெரும்பாலும் பயிற்சி தரவுகளில் உள்ள சார்புகளை பிரதிபலிக்கிறது. இது ஒரு கடுமையான நৈতிக மற்றும் நடைமுறைக் கவலையாகும், ஏனெனில் சார்பான AI உண்மையான ক্ষতிக்கு வழிவகுக்கலாம் மற்றும் பாகுபாட்டை நீடிக்கச் செய்யலாம்.

## AI சார்பு என்றால் என்ன

```text
AI BIAS → systematic, unfair skew in a model's outputs:
  → the model treats certain groups unfairly (e.g. by race, gender, age) or makes skewed
    decisions
  → usually stems from BIASED TRAINING DATA (the model learns the biases in the data)
  → 'bias in, bias out' → models reflect and can AMPLIFY societal biases in their data
→ AI can perpetuate or worsen unfairness/discrimination
```

## சார்பு எங்கிருந்து வருகிறது

```text
✓ BIASED DATA → training data reflects historical/societal biases or isn't representative
  → e.g. hiring data favoring one group → the model learns to favor that group
✓ UNREPRESENTATIVE data → underrepresented groups → poor performance for them
✓ Biased labels, flawed problem framing, biased features → encode unfairness
→ bias mostly originates in the DATA (and how the problem is set up)
```

## இது ஏன் கவலைக்குரியது மற்றும் அதை எவ்வாறு சரிசெய்வது

```text
⚠️ REAL HARM → biased AI in hiring, lending, justice, healthcare, etc. → unfair decisions
  affecting real people (discrimination at scale)
⚠️ LEGAL/ethical/reputational risks; erodes trust
✓ ADDRESS → diverse/representative data; test for bias across groups (fairness metrics);
  audit models; diverse teams; transparency; ongoing monitoring
→ building FAIR AI is an important responsibility
```

## இது ஏன் முக்கியம்

AI-ல் உள்ள சார்பைப் புரிந்துகொள்வது மதிப்புவாய்ந்ததாகும், ஏனெனில் இது ஒரு **கடுமையான நৈதிக மற்றும் நடைமுறைக் கவலை** ஆகும், இது உண்மையான க்ষதிக்கு வழிவகுக்கலாம், எனவே இதைப் புரிந்துகொள்வது முக்கியமான பொறுப்பான AI அறிவாகும்.

AI சார்பு — மாதிரிகளில் முறையான நியாயமற்ற தன்மை, குறிப்பிட்ட குழுக்களைத் தகுதியற்றவாறு பாதிக்கிறது, பெரும்பாலும் பயிற்சி தரவு சார்புகளை பிரதிபலிக்கிறது — AI பரிணாம முடிவுகளில் பயன்படுத்தப்படுவதால் ஒரு முக்கியமான சிக்கலாகும்.

**AI சார்பு என்றால் என்ன** புரிந்துகொள்வது — மாதிரிகள் குழுக்களை நியாயமற்றவாறு கையாளுவது அல்லது சிதைந்த முடிவுகளை எடுப்பது, பொதுவாக சார்பான பயிற்சி தரவு (மாதிரி தரவின் சார்புகளைக் கற்றுக்கொள்ளுதல்) இல் இருந்து உற்பத்தி செய்யப்படும், AI சார்பு மற்றும் அதை பெருக்க முடியும் என்ற கொள்கையுடன் (உள்ளீடு சார்பு, வெளீடு சார்பு) — சிக்கலை தெளிவுபடுத்துகிறது மற்றும் AI பாகுபாட்டை நீடிக்கச் செய்ய அல்லது மோசமாக்க முடியும் என்பதை உணர்த்துகிறது.

**சார்பு எங்கிருந்து வருகிறது** என்பதைப் புரிந்துகொள்வது — சார்பான தரவு (வரலாற்று அல்லது சামூகிக சார்புகளைப் பிரதிபலிக்கிறது, உ-ம் ஒரு குழுவுக்கு சாதகமாக இருக்கும் பணியமர்த்தন தரவு), பிரতिनिधित্வமற்ற தரவு (குறைபாட்டுக்குள்ளான குழுக்கள் மோசமான செயல்திறன் பெறுகின்றன) மற்றும் சார்பான லேபிள்கள் அல்லது பண்புகள் — சார்பு பெரும்பாலும் தரவு மற்றும் சிக்கல் அமைப்பிலிருந்து உற்பத்தி செய்யப்படுகிறது, தரவு தரின் முக்கியத்துவத்துடன் இணைக்கிறது.

**இது ஏன் கவலைக்குரியது மற்றும் அதை எவ்வாறு சரிசெய்வது** புரிந்துகொள்வது — சார்பான AI **உண்மையான ক্ষতிக்கு** (பணியமர்த்தன, கடன் வாங்குதல், நீதி மற்றும் சுகாதாரத்தில் நியாயமற்ற முடிவுகள் உண்மையான மக்களைப் பாதிக்கிறது, பெரிய அளவில் பாகுபாடு), சட்ட மற்றும் நৈதிக ஆபத்துகள் மற்றும் நம்பிக்கையை அரிக்கிறது; மற்றும் இதை சரிசெய்வது பல்வேறு/பிரதிनिधिত्वமான தரவு, குழுக்கள் முழுவதும் சார்புக்கு சோதனை (நியாயता மெট்ரிக்ஸ்), மாதிரிகளை ஆய்வு செய்தல், பல்வேறு குழுக்கள், স్వচ్ఛత மற்றும் தொடர்ச்சியான கண்காணிப்பை உள்ளடக்கிய — கடுமையான பங்குதாரிত்வம் மற்றும் நியாயமான AI கட்டமைக்க வேண்டிய பொறுப்பை பிரதிபலிக்கிறது.

AI பரিணாம முடிவுகளில் பயன்படுத்தப்படுவதால், சார்பைப் புரிந்துகொள்வது மற்றும் அதை சரிசெய்வது AI கட்டமைக்கிற அல்லது பயன்படுத்துபவர்களுக்கு ஒரு முக்கியமான பொறுப்பாகும், கடுமையான நৈதிக, நடைமுறை மற்றும் சட்ட பரிமாணங்களுடன்।

AI சார்பு ஒரு கடுமையான நৈதிக மற்றும் நடைமுறைக் கவலை (உண்மையான ক்ষতিக்கு வழிவகுக்கிறது மற்றும் AI பரிணாம முடிவுகளில் பயன்படுத்தப்படும்போது பாகுபாட்டைப் நீடிக்கிறது) மற்றும் இது என்ன, எங்கிருந்து வருகிறது (பெரும்பாலும் தரவு) மற்றும் எவ்வாறு சரிசெய்வது என்பதைப் புரிந்துகொள்வது முக்கியமான பொறுப்பான AI அறிவாகும் என்பதால், AI-ல் உள்ள சார்பைப் புரிந்துகொள்வது மதிப்புவாய்ந்ததாகும், முக்கியமான பொறுப்பான AI அறிவு — உண்மையான-உலக ক்ષতிக்கான கடுமையான கவலை (பரிணாம முடிவுகளில் பெரிய அளவில் பாகுபாடு), சார்புக்கான தோற்றம் (பெரும்பாலும் சார்பான/பிரதிनिधित्वமற்ற தரவு) மற்றும் அதை சரிசெய்ய வேண்டிய பொறுப்பு (பல்வேறு தரவு, நியாயता சோதனை, ஆய்வு) மற்றும் AI மக்களைப் பாதிக்கும் முடிவுகளில் பயன்படுத்தப்படுவதால்점점 முக்கியமாகிறது।