3. AIの学習過程は“ブラックボックス”の中。そこから出た答えの正しさを、誰が担保するのか？

コメント

注目のコメント

• 濱谷 陸太

  Brigham and Women's Hospital 予防医療の研究者

  ・2019年08月19日

  AIによる予測性能は十分でなく、過程がブラックボックスなので結果の解釈が難しい、という2点に集約されていました。
  
  予測性能に関しては、今後確実に発展していきます。一方、結果の解釈については、因果推論という既存の学問がある事を知る必要があります。
  
  統計をかじれば分かるのですが、machine learning は「やや複雑な予測式を組み合わせている」のであって、全くのブラックボックスである訳ではありません。その複雑な式をどう解釈できるか、分かっていないだけです。
  
  因果推論とは、データ分析から因果関係を推論しようとする学問で、いわゆる「結果の解釈」に関する方法論です。ハーバードとスタンフォードで2つ流派があります。machine learning という方法をどう活用出来るか、現在活発に研究されています。
  
  AIで予測することと、原因を追求する事は、全然違います。
• 福永 慎一郎

  Project Manager

  ・2019年08月19日

  "バックエンドのデータ、バックエンドの知識が、本当にその確かさをサポートしているのかどうか分からずに使い始めて、どんどん依存していき、終いには、それを評価する能力を失った時というのが一番怖い"
• 川端 隆史

  ジョーシス株式会社 シニアエコノミスト

  ・2019年08月20日

  濱谷さんのコメントが記事に対する補助線となり、見るべきポイントが分かった気がします。