【核心】なぜAIは「偏見」を持ってしまうのか
NewsPicks編集部
327Picks
コメント
注目のコメント
社会や人に偏りがあり、その状況をAIがそのまま学習してしまうと、偏見のあるAIになってしまいます。
AIだけでなく、コロナショックの影響で不足するマスクやトイレットペーパー、震災後に広がるフェイクニュースも、認知バイアスが影響していそうです。
認知バイアスは、よく知られているだけでも200種類ほどありますが、ざっくり4つに分類すると、
1. 情報の過多 :多すぎる情報に何とか対処するための癖。場合によっては、自分にとって都合の良い情報だけをつまみ食いし、本当に重要な情報を隠してしまう可能性もある。
2. 記憶容量の不足:重要な情報を優先的に記憶するための癖。つじつま合わせのために、記憶を編集したり過度に一般化をしてしまうこともある。
3. 時間の不足:限られた時間の中で迅速に判断し、行動するための癖。場合によっては、短絡的な反応や非合理的な行動を促す可能性もある。
4. 意味の不足:さまざまな手がかりを利用して、データから何か意味のあるものをつくる癖。情報を勝手に補完し、過度に単純化した意味を作ってしまう恐れもある。
偏見のない社会・脳・AIにむけて〜①歴史に学ぶ
https://note.com/ray_30cm_ns/n/n248d19f6ae75AIは人間の「バイアス」を助長してしまうーー。この根本的な問題に迫ったQuartz(https://qz.com/japan/)の渾身レポートをどうぞ。
国・国境が強く意識されている今 注目したい記事。「AIバイアスに取り組むためには、人間が持つバイアスと対峙しなければならない。」 人間が持つバイアスを、AIが修正することはない。