汎用人工知能（AGI）実現 に 向けた AI業界 の 課題 について 語る
コメント
選択しているユーザー
ハサビス本人の考えに興味があって読んでいたのだけれど、一番最後にあるライターさんの意志とも見える「よそを論じてる場合じゃない。やらなきゃ」の部分が一番印象に残りました。
注目のコメント
AIと脳科学との密接な関係を丁寧に、過去の文献をリスペクトしながらDeepMindのハサビス氏が論じています。ハサビス氏の広い見識を感じさせるものになっています。
これはこれで興味深いのですが、私自身は、脳との対比よりも、汎用の問題解決方法論として、AIを捉えることがより意義深いと考えています。
例えば、80年代から90年代前半に検討された第２世代のAIはうまくいかなかったという事実があります。第２世代のAIでは、人から引き出したルールを組みわわせて知能を実現しようとしました（現在主流のデータからの帰納的な学習は行っていませんでした）。これまでは、このルールを組み合わせて推論するということはAIの実現方法としてはうまくいかなかったと捉えられてきました。
しかし私は、別の見方をしています。ルールを組み合わせて複雑な現実問題を解決するというアプローチはだめだ、ということをAI研究は示したと考えます。今も我々は、業務や社会をルールで律しようとしています。社会にもビジネスにも基本的なルールが必要なことは誰も否定しないでしょうが、現実の複雑で様々な状況に、ルールや決められたプロセスに基づいて対応することはできないことをAI研究は示したのです（成功したのです）。
従って、反省すべきはAIの作り方ではなく、社会の動かし方だったのです。ルールやプロセスに基づいて社会を動かすのはうまくいかない（適用限界がある）ことを我々は反省すべきだったと考えます。
一方、現在うまくいっているディープラーニングはより結果に少しでも近くなるように尺取り虫的に判断のパラメータを変えていきます。そこにはルールはありません。目的のためには手段を柔軟に変えます。これで、ルールやプロセスベースではうまくいかなかったことが劇的にうまくいくようになったのです。
現在の国会の議論が時に不毛に思えるのは、結果よりも前にルールに従っていたかを問題にしているからです。AI研究は、そのようなやり方はうまくいかないことを示してきました。それを人類は反省すべきだったのです。
このようにAIをコンピュータのアルゴリズムではなく、問題解決方法の是非をコンピュータとデータを使って加速して検証していると考えると、これまで見えていなかったことが見えてきます。何だか記事ではえらく詮索していますが、私にはハサビス氏の純粋な学究心から出たメッセージを、Googleとしての競争戦略の範囲内で情報公開した、したかっただけ、だろうと感じています。それが、たとえ私企業の研究者であろうとも、最先端を走っている人間の純粋な気持ちだからです。
深層学習は脳神経科学にインスピレーションを受けて進化したことは事実ですが、ハサビス氏が述べられているように、人間の脳を忠実に模倣することが「知能」や「意識」の本質ではないので、過度に影響を受けると逆に進化を阻害します。脳科学の観点から行くと、既に人工知能側に伝えられる事は殆どなく、逆に人間の脳機能の解明のために教えを請うような立場に逆転しているように思います。
人工知能の研究者のモチベーションは、大きく分けて２つで、人間知能を解明し人間を知るために類似物を構築して比較研究したい（あくまで研究対象は人間）という方向と、単に人間知能は参考に過ぎず、より高度な知能を構築したいという方向があります。かつては前者も盛ん（石黒浩先生の一派などはそのアプローチ）でしたが、今では後者の進化の勢いが凄いという印象です。
矢野さんのご指摘は興味深いですね。
ルールベースで社会システムが運用できるなら、理想的な法律さえあれば社会はまわるはずですが、実際は政治や裁判を通じて極めて「人間的」な対処を必要としています。それが三権分立という現時点の民主社会における一応の妥結点なんだと思います。
そういった政治判断や司法判断を行えるシステムをDeepMindが目指しているのかといえば、この論文とインタビューからすれば答えはノーだと思います。彼らは汎用人工知能は目指していても、人間は目指してはいませんからね。実際にそれっぽいことができる様なシステムができたとしても、多少活用できる部分はあったとしても、人間側の問題で成立しないでしょう。なぜなら、人間は「面白くないこと」に耐えられない生き物だからです。コメント欄含めて勉強になるし、考えさせられる。自分的メモ2点。
①実装について、脳とのアナロジーは特にアルゴリズム的な観点で考えるが、仕組み・実装方法は拘らない
②T Takuさんがコメントされている「本能」という点は、とても気になった。学習（合理）と価値判断（感情を伴うもの）は、脳の中で違うものだと思っているが、最後の意思決定・評価関数的な側面では両方必要。特に本能は価値判断のところにかなり関わっていると思う。
AI・ロボットが感情や価値観を持つべきか、持つことで暴走を防げるか、逆に暴走を誘引するかという部分は論点として大きいと思うが、判断に好き嫌いが関わってくるからこそ、それをどう捉えているのかが気になった。
論文・本記事で、「仕組み」＝「アルゴリズム・機構・機能・表現」とある。本能については、脳との関連ではアルゴリズムの初期値に組み込まれているが、その初期値は人によって違ったり、変化していくものかなぁと個人的には思っている（素人考えだが）。
