Bias in AI は、model の output に systematic unfairness があり、特定 group を不公平に不利にすることです。多くの場合 training data の bias を反映します。biased AI は real harm を起こし、discrimination を perpetuate するため、重大な ethical and practical concern です。
AI bias とは
text
AI BIAS → model output の systematic, unfair skew:
→ race, gender, age などにより特定 group を unfair に扱う
→ 多くは BIASED TRAINING DATA から生じる
→ 'bias in, bias out' → data 内の societal bias を reflect/amplify する
bias の発生源
text
✓ BIASED DATA → historical/societal bias を反映、または representative でない
→ 例: hiring data が一方の group を favor → model もその group を favor
✓ UNREPRESENTATIVE data → underrepresented groups で poor performance
✓ biased labels, flawed problem framing, biased features → unfairness を encode
なぜ懸念か、どう対処するか
text
⚠️ REAL HARM → hiring, lending, justice, healthcare で unfair decisions
⚠️ legal/ethical/reputational risks; trust erosion
✓ ADDRESS → diverse/representative data, group ごとの fairness metrics, audits,
diverse teams, transparency, ongoing monitoring
