AI における bias とは何で、なぜ懸念されますか？

Question

Accepted Answer

**Bias in AI** は、model の output に systematic unfairness があり、特定 group を不公平に不利にすることです。多くの場合 training data の bias を反映します。biased AI は real harm を起こし、discrimination を perpetuate するため、重大な ethical and practical concern です。

## AI bias とは

```text
AI BIAS → model output の systematic, unfair skew:
  → race, gender, age などにより特定 group を unfair に扱う
  → 多くは BIASED TRAINING DATA から生じる
  → 'bias in, bias out' → data 内の societal bias を reflect/amplify する
```

## bias の発生源

```text
✓ BIASED DATA → historical/societal bias を反映、または representative でない
  → 例: hiring data が一方の group を favor → model もその group を favor
✓ UNREPRESENTATIVE data → underrepresented groups で poor performance
✓ biased labels, flawed problem framing, biased features → unfairness を encode
```

## なぜ懸念か、どう対処するか

```text
⚠️ REAL HARM → hiring, lending, justice, healthcare で unfair decisions
⚠️ legal/ethical/reputational risks; trust erosion
✓ ADDRESS → diverse/representative data, group ごとの fairness metrics, audits,
  diverse teams, transparency, ongoing monitoring
```

## なぜ重要なのか

AI が hiring、lending、healthcare、justice のような consequential decisions に使われるほど、bias は real people に影響する問題になります。bias は主に data と problem setup から来るため、representative data、fairness testing、audit、monitoring によって責任を持って扱う必要があります。responsible AI の基本知識です。