AI मा पूर्वाग्रह भनेको मोडेलहरूमा व्यवस्थित अन्यायता हो — जसले कतिपय समूहलाई अन्यायपूर्ण रूपमा हानि पुर्याउने नतिजाहरू प्रदान गर्छ, प्राय: प्रशिक्षण डेटामा भएको पूर्वाग्रहलाई प्रतिबिम्बित गर्छ। यो एक गम्भीर नैतिक र व्यावहारिक चिन्ताको विषय हो, किनकि पूर्वाग्रहपूर्ण AI ले वास्तविक हानि गर्न सक्छ र भेदभावलाई कायम राख्न सक्छ।
AI पूर्वाग्रह क्या हो
text
AI BIAS → systematic, unfair skew in a model's outputs:
→ the model treats certain groups unfairly (e.g. by race, gender, age) or makes skewed
decisions
→ usually stems from BIASED TRAINING DATA (the model learns the biases in the data)
→ 'bias in, bias out' → models reflect and can AMPLIFY societal biases in their data
→ AI can perpetuate or worsen unfairness/discrimination