Što je pristranost u AI-u i zašto je to problem?

Question

Accepted Answer

**Pristranost u AI-u** odnosi se na sustavnu nepravdu u modelima — stvaranju rezultata koji nepravedno oštećuju određene grupe, često odražavajući pristranosti u podacima za treniranje. To je ozbiljna etička i praktična briga, jer pristrasan AI može prouzročiti pravu štetu i perpetuirati diskriminaciju.

## Što je pristranost u AI-u

```text
AI BIAS → systematic, unfair skew in a model's outputs:
  → the model treats certain groups unfairly (e.g. by race, gender, age) or makes skewed
    decisions
  → usually stems from BIASED TRAINING DATA (the model learns the biases in the data)
  → 'bias in, bias out' → models reflect and can AMPLIFY societal biases in their data
→ AI can perpetuate or worsen unfairness/discrimination
```

## Odakle dolazi pristranost

```text
✓ BIASED DATA → training data reflects historical/societal biases or isn't representative
  → e.g. hiring data favoring one group → the model learns to favor that group
✓ UNREPRESENTATIVE data → underrepresented groups → poor performance for them
✓ Biased labels, flawed problem framing, biased features → encode unfairness
→ bias mostly originates in the DATA (and how the problem is set up)
```

## Zašto je to briga i kako je riješiti

```text
⚠️ REAL HARM → biased AI in hiring, lending, justice, healthcare, etc. → unfair decisions
  affecting real people (discrimination at scale)
⚠️ LEGAL/ethical/reputational risks; erodes trust
✓ ADDRESS → diverse/representative data; test for bias across groups (fairness metrics);
  audit models; diverse teams; transparency; ongoing monitoring
→ building FAIR AI is an important responsibility
```

## Zašto je važno

Razumijevanje pristranosti u AI-u je vrijedno jer je to **ozbiljna etička i praktična briga** koja može prouzročiti pravu štetu, pa je razumijevanje važno znanje o odgovornom AI-u.

Pristranost u AI-u — sustavna nepravda u modelima koja nepravedno oštećuje određene grupe, često odražavajući pristranosti podataka za treniranje — je kritična tema jer se AI koristi u odlukama od velike važnosti.

Razumijevanje **što je pristranost u AI-u** — modeli koji nepravedno tretiraju grupe ili donose iskrivljene odluke, obično porijeklom iz pristrasnih podataka za treniranje (model uči pristranosti iz podataka), s principom da modeli odražavaju i mogu pojačati društvene pristranosti (pristranost ulazi, pristranost izlazi) — pojašnjava problem i da AI može perpetuirati ili pogoršati diskriminaciju.

Razumijevanje **odakle dolazi pristranost** — pristrasni podaci (odražavajući povijest ili društvene pristranosti, npr. podaci o zapošljavanju koji farvoriziraju jednu grupu), nereprezentativni podaci (nedostatak performansi za nedovoljno zastupljene grupe), i pristrasne oznake ili značajke — pojašnjava da pristranost uglavnom potječe iz podataka i postavljanja problema, povezujući se s važnošću kvalitete podataka.

Razumijevanje **zašto je to briga i kako je riješiti** — da pristrasan AI uzrokuje **pravu štetu** (nepravde u zapošljavanju, kreditiranju, pravosuđu i zdravstvu koje utječu na prave ljude, diskriminacija na leđi), zakonske i etičke rizike, i podriva povjerenje; i da riješavanje uključuje raznolike/reprezentativne podatke, testiranje za pristranost između grupa (metrike pravde), reviziju modela, raznolike timove, transparentnost, i kontinuirani nadzor — odražava ozbiljne uloge i odgovornost da se izgradi pravedan AI.

Kako se AI sve više koristi u odlukama od velike važnosti, razumijevanje i rješavanje pristranosti je važna odgovornost za sve koji grade ili primjenjuju AI, s važnim etičkim, praktičnim i zakonskim dimenzijama.

Budući da je pristranost u AI-u ozbiljna etička i praktična briga (uzrokuje pravu štetu i perpetuira diskriminaciju kada se AI koristi u odlukama od velike važnosti) i razumijevanje što je, odakle dolazi (uglavnom iz podataka), i kako je riješiti je važno znanje o odgovornom AI-u, razumijevanje pristranosti u AI-u je vrijedno, važno znanje o odgovornom AI-u — ozbiljna briga s stvarnosvjetskom štetom (diskriminacija na leđi u odlukama od velike važnosti), pojašnjavanje izvora pristranosti (uglavnom pristrasni/nereprezentativni podaci) i odgovornost za riješavanje (raznolike podaci, testiranje pravde, revizija), i sve važnije kako se AI koristi u odlukama koje utječu na ljude.