AIに善意は宿るか 「ゴッドファーザー」が憂える数式

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2024年03月04日

  「AIが人類の脅威となるのは、もっとずっと先のことだと思っていた。しかし今はもうそんなに時間がないのだと考えるように変わった。」
  
  ChatGPTと対話しているだけだと、なかなかそう感じるのは難しいです。しかし、良い人間らしく調整される前のAIと対話した実感なのだろうと思います。
  
  AIに良い目標を与えたとしても、AIの実行方法が良いとは限らない。気候変動を抑えよとAIに指示したら、AIは人類を排除するのが最も効果的と気づくはず、という例は分かりやすいです。
  
  自ら行動計画できる自律エージェントは数年で登場しそうです。既に初期型は存在していますし。まだ考えがまとまりません。
• 山崎 俊彦

  東京大学 大学院情報理工学系研究科電子情報学専攻　教授

  ・2024年03月04日

  数式モデルを立てることの難しさを考えていたときに、ふと下記のエピソードを思い出しました。
  
  アインシュタインは宇宙が膨張しているという予測に納得できず、宇宙は静止しているのだということを言うために宇宙項という項を足してしまいます。後に本人が撤回していますが、数理モデルはあくまでもこれまで観測できた事象に対して内挿したり、もしくは自分の予想するなにかを主張するためにいろいろと理論をつけて当てはめたりしているだけです。特にGDPの予測など、裏に物理・数学的メカニズムがないものに対しては外挿（将来の予測）は無力です。
  
  アインシュタイン方程式と人生最大の過ち？
  https://home.hirosaki-u.ac.jp/relativity/%E4%B8%80%E8%88%AC%E7%9B%B8%E5%AF%BE%E8%AB%96%E7%9A%84%E6%99%82%E7%A9%BA%E3%81%AE%E8%A1%A8%E3%81%97%E6%96%B9/%E3%82%A2%E3%82%A4%E3%83%B3%E3%82%B7%E3%83%A5%E3%82%BF%E3%82%A4%E3%83%B3%E6%96%B9%E7%A8%8B%E5%BC%8F%E3%81%A8%E4%BA%BA%E7%94%9F%E6%9C%80%E5%A4%A7%E3%81%AE%E9%81%8E%E3%81%A1%EF%BC%9F/
• 矢野 和男

  (株)ハピネスプラネット 代表取締役CEO (株)日立製作所 フェロー

  ・2024年03月04日

  たしかに、AIは社会に、大きな影響があることは間違いない。しかし、目を背けるのではなく、それにしっかり向き合っていくことが最も大事だと思う。