Amazonが人材採用システムを停止 ── AIによる「差別」というダークサイドをどう乗り越えるか？

コメント

注目のコメント

• 岡田 孟典

  Ledge.ai エンジニア/ライター/ディレクター

  ・2018年10月23日

  データの偏りが原因だった、というお話。
  Grad-CAMなど、CNNの判断箇所を明らかにする手法等もでてきているので、「バイアスのあるAIなのか」を突き止める手立てもあるのかなと。
  また、その観点で、テストデータセットを選定する事も重要ですよね。
• 河村 健司

  株式会社Loco Partners Product Manager

  ・2018年10月23日

  「マイノリティーも含めた多様性のあるチーム開発で、隠れたバイアスを発見し、AI開発を進める」
  
  データ収集の時点でバイアスがかかるのは仕方ないと言えば仕方ない......
  技術的にも、開発フロー的にも、AI開発は大変。
• 橋本 和樹

  株式会社レッジ 代表取締役

  ・2018年10月23日

  今の学習データの元が人間の偏りをそのまま残したものであると、結局の所それをそのまま学習してしまったりしているだけな気もしつつ。
  
  今のAI（DL/ML）って人間同様不完全な所があるのがまた一興だなと。