インフォグラフィックでみる「説明可能なAI」の正体

富士通 | NewsPicks Brand Design

2018/12/27

AIを利用しようとする機運がますます高まる中で、新たな問題も生まれたきた。それがAIのブラックボックス。AIがどのような思考プロセスをたどり導き出した答えなのかが不透明なケースが出てきたのだ。このAIのブラックボックス問題とそれに立ち向かう国内大手テクノロジー企業の解決策をインフォグラフィックを用いて紹介する。

（インフォグラフィック：砂田優花、編集：木村剛士）

富士通 | NewsPicks Brand Design

コメント

注目のコメント

• 楠木 建

  一橋大学 教授

  ・2018年12月29日

  AIに関して僕が大切だと思うのは、A(人工)を云々する以前にI(人間の知能)とは何かを理解すること。このところの議論はこの根本的なところを疎かにしていると思います。IあってのA。順番が大切。松田雄馬『人工知能はなぜ椅子に座れないのか』が勉強になった。一読をおすすめします。
• 木村 剛士

  NewsPicks, Inc Brand Design

  ・2018年12月27日

  BtoBのAI利用で各AIベンダーが取り組みに力を入れていたのが「AIのブラックボックス」問題の解消。AIがどのように答えを導き出しているのか、その「思考プロセス」や根拠を可視化する取り組みが盛んでした。改めてその問題点と、ある国内大手ベンダーの解決策をインフォグラフィックを用いて紹介しています。
• 笠原 規男

  フリーランス ITコンサルタント

  ・2018年12月27日

  僕はほとんどのケースで「説明可能」である必要はないと思います。理由が説明できないものを人々が受け入れられるかどうかは、慣れの問題であり、多くは時間が解決してくれるのではないでしょうか。
  
  例えば、漢方薬は、ツムラなどが薬効成分を特定しようとしましたが、解明できず、断念したものが多いと聞きます。つまり、なぜ効くかは分からないけれど、薬効があるのは間違いない。
  クルマの自動ブレーキだって、どういうロジックで障害物や歩行者を判定しているかは分からないけれど、事故率が下がるなら受け入れます。
  こういうものでも、実績があれば、我々は受け入れるわけです。
  同じように、人よりも正しい判断をするという実績が積み重なれば、「説明不可能」であってもAIを信頼するようになるんじゃないかと思いますよ。