AIをめぐる神話。ディープラーニングは本当に「ディープ」か
コメント
注目のコメント
モントリオールで開催されているAIの最高峰の学会NeurIPSに来ています。まだ今日はチュートリアルがあっただけですが、確かにディープラーニングは、発展が踊り場に来ている印象は受けます。
本質的には、データは過去にやったことのあることを記録しているものです。過去にやったことのないことには、何も出来ません。
それでも、過去の間違いを繰り返さないことや上手く行った事を皆で活用するのには、威力を発揮します。このような分野は沢山あるので、そこでどんどん活用すべきです。まだこれからです。
ただ、ビジネスでは、過去にやったことのないことを的確に判断することがよりインパクトのあります。これにも活用したいという期待は大きいです。しかし、これは、単にディープラーニングを適用するのでは上手くいきません。未来は、無尽蔵で、限りない可能性があるからです。
この未知の未来に本気で向き合うAIこそ、本当の本命のAIだと思います。色々なヒントや要素は既にあります。誰が突破口を開くか。
楽しみです。我々が道を切り開きたいと思います。ディープラーニングに対する疑問の声が高まっているというレポート。「ディープラーニングを信用しすぎるのは考えもの」という人もいる。
先端技術、AIということで、各社が競ってこの利用に熱を入れている。ブロックチェーンと同じ現象ですね。当たり前のことだけれど、ディープラーニングはツールなので、何でもかんでも使えるというものではない。そこを履き違えている。
ボクは昔（今から十数年前）、与信モデルにニューラルネットワークを使っていた。バックプロパゲーションという自己学習するものだった。個人信用情報センターからデータを取得し、それを分解して2秒以内にスコア化していた。精度は高かったと思う。
しかしある日、金融庁から指導があった。ブラックボックスではダメだと。なぜそのスコアになっているのか、リーズンを明確にしろと。結局、ルールベースの与信モデルに改修した、というホロ苦い経験があります。強いAI、弱いAIといった表現にも現れているように人間がAIやディープラーニングを想起するとき、その能力や役割には大きな広がりがあります。だからこそこのような現実的な意見とそれに対する失望感のようなやりとりがなされ続けるようです。
過去AI研究に数度冬の時代が来たように、今回も同じことはいずれ起きそうです。
というのも、資金を投下する側と現実に研究をしている最先端の科学者との間で認識に差異が生まれていて、それを調整するための期間が必要となりそうだからです。
"またディープラーニングは意義付け、論理的思考、常識といった知性の広大な世界に踏みだしたとたんに、途方に暮れてしまう。数百万の言葉を瞬時に識別することはできても、「正義」「民主主義」「干渉」といった概念は理解できないのだ。
だまされやすいことも、研究により判明している。ごく少数のピクセルに変更を加えただけで、ディープラーニングのソフトウェアは亀を銃と、駐車標識を冷蔵庫と勘違いしてしまう。
今年の1月、ニューヨーク大学のゲイリー・マーカス教授は科学論文の発表・保存サイトarXiv（アーカイブ）に論文を寄せ、「ディープラーニングは壁に近づきつつあるのか」と問いかけた。「ディープラーニングが抽出するパターンは深いように見えて、実は浅薄であることが多い」"
