インフォグラフィックでみる「説明可能なAI」の正体

コメント

注目のコメント

• 佐々木 励

  AI Venture - AI Brain Explorer

  ・2019年03月17日

  「説明可能なAI」を大手IT企業が語る時は、機械学習ではなくルールベースの話か、近似モデルでの間接的な説明でしかなく、ポジョントークが多いので注意。
  
  まだ、研究レベルの取り組みを続けつつ、実務レベルで慎重に検証すべきタイミングかと。
  
  =参考=
  ・研究、道具立ては進んできている
  ・が、どういった場合に使える／使えないといった実際の知見はあまりない
  ・今後はこれらを活用して実務側→研究側へのフィードバックが重要
  
  「機械学習と解釈可能性」
  https://speakerdeck.com/yoshinaga0106/ji-jie-xue-xi-tojie-shi-ke-neng-xing
• t t ngm

  Hostel Georgia

  ・2019年03月16日
• n yuma

  風力発電関係者

  ・2019年03月17日

  AIの論理のホワイトボックス化ですか。
  2018年10月Amazonが利用していた採用ツールでは、管理職の女性が少ないという理由でAIが女性を不適切に減点していたことに気がつかなかった、というニュースがありましたが、これの主因はAIのブラックボックスにあったと思います。
  https://www.businessinsider.jp/amp/post-177193
  
  AIを使用する上でのリスクを減らすためにも、ホワイトボックス化の技術も需要は高そうですね。