【悲報】低所得世帯の物体認識AIは精度が低いらしい（AI×社会）【論文】

コメント

注目のコメント

• 水谷 健

  Parks, Inc. CEO

  ・2020年01月29日

  “アメリカの Facebook AI Researchの T. d. Vriesら研究者は、物体認識システムが文化的背景や社会・経済的地位に関係なく機能することが求められているという課題に注目した。そこで、現在の物体認識システムが国や所得レベルに関係なく機能するかどうかを、複数の物体認識システムの結果を比較することによって調査した。結果、画像が低所得世帯のものである場合よりも、高所得世帯の画像である場合の方が物体認識モデルの精度が高いということが分かった。”
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2020年01月29日

  低所得者はマスプロ製品を買い、高所得者はレアな高級品を買うので、むしろ逆かと思っていました。
  
  記事を読む限り、低所得世帯の物体認識精度が低いと言い切れるか微妙ですが、この仮説を検証するという姿勢は極めて重要ですね。技術者が意図せず格差拡大に寄与しているリスクは案外ありますから。
  
  Google画像検索で「CEO」を検索すると、白人男性ばかりヒットするので、人種・性別差別を助長するのと似ています。
• 君島 淳

  いずれ解決しそ-ではあるが。
  “文化的背景や社会・経済的地位に関係なく、世界中の利用者が物体認識システムを等しく利用できること保証する責任が、開発者側に生じている”
  
  “所得のことなる世帯ごとの写真におけるオブジェクト分類の精度は、低所得世帯の画像よりも高所得世帯の画像を用いたときのほうが、大幅に高くなった”
  
  “精度に差が生じている原因としては、2点考えられる。一つ目は、物体検出モデルの学習に使われている画像データセットの地理的サンプリングが世界の人口分布を代表しないためである。二つ目は、データ収集の際の言語として英語を利用しているためである”