Pristranost u AI-u odnosi se na sustavnu nepravdu u modelima — stvaranju rezultata koji nepravedno oštećuju određene grupe, često odražavajući pristranosti u podacima za treniranje. To je ozbiljna etička i praktična briga, jer pristrasan AI može prouzročiti pravu štetu i perpetuirati diskriminaciju.
Što je pristranost u AI-u
AI BIAS → systematic, unfair skew in a model's outputs:
→ the model treats certain groups unfairly (e.g. by race, gender, age) or makes skewed
decisions
→ usually stems from BIASED TRAINING DATA (the model learns the biases in the data)
→ 'bias in, bias out' → models reflect and can AMPLIFY societal biases in their data
→ AI can perpetuate or worsen unfairness/discrimination
