AI ਵਿੱਚ ਪੱਖਪਾਤ ਮਾਡਲਾਂ ਵਿੱਚ ਯਵਸਥਿਤ ਅਨਿਆਂ ਨੂੰ ਕਹਿੰਦੇ ਹਨ — ਅਜਿਹੇ ਨਤੀਜੇ ਦਿੰਦੇ ਹੋਏ ਜੋ ਕੁਝ ਗਰੁੱਪਾਂ ਨੂੰ ਨਾਜ਼ਾਇਜ਼ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੇ ਹਨ، ਅਕਸਰ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਪੱਖਪਾਤ ਨੂੰ ਪ੍ਰਤੀਬਿੰਬਿਤ ਕਰਦੇ ਹਨ। ਇਹ ਇੱਕ ਗੰਭੀਰ ਨੈਤਿਕ ਅਤੇ ਵਿਹਾਰਕ ਚਿੰਤਾ ਹੈ، ਕਿਉਂਕਿ ਪੱਖਪਾਤੀ AI ਅਸਲ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ ਅਤੇ ਵਿਤਕਰਾ ਨੂੰ ਜਾਰੀ ਰੱਖ ਸਕਦਾ ਹੈ।
AI ਪੱਖਪਾਤ ਕੀ ਹੈ
text
AI BIAS → systematic, unfair skew in a model's outputs:
→ the model treats certain groups unfairly (e.g. by race, gender, age) or makes skewed
decisions
→ usually stems from BIASED TRAINING DATA (the model learns the biases in the data)
→ 'bias in, bias out' → models reflect and can AMPLIFY societal biases in their data
→ AI can perpetuate or worsen unfairness/discrimination