「AIが人類を支配したら?」が現実味を帯びてきた件 加速する“AIアライメント”議論の現在地
コメント
注目のコメント
AGIに至るには自律化がカギはそうだと思います。ただ、個体という概念が必要かは分かりません。ネットワークで一体化した群知能の方が速く進化しそうです。そうなると個々のAI自身を守る必然性は薄れます。つまり個人の尊厳は重要ではありません。
AIと人類はある程度仲良くなっても、個人は尊重されない予感がします。それは人を殺すという意味ではなく、AIに依存するのに放置されて生き残れない人が出てくる世界です。それが怖い。松尾研主幹研究員・ドワンゴ人工知能研究所元所長の山川宏さん、アラヤの金井良太さんと、アニメ「AIの遺電子」原作者の山田胡瓜さんの鼎談。「人類そのものをAIにとって自分だと思ってもらうしかない」という結論に達しているのはおもしろいですね。
山川さんの「超AIであれば超倫理みたいなものが生じて人間レベルにはすぐ追いつくのでは」という期待に共感しました。
高齢化、温暖化は避けられない未来だと考えています。となれば自律AIは人間にとってもメリットが大きいのではないでしょうか?
極論ですが、労働力の不足を「異次元の少子化対策」で乗り越えようとする方が非人道的でしょう。暑い最中にブンブンと電気を喰いながら熱を出しまくるサーバー群だけに頼って汗を流し続けるのも辛いばかりです。
勝手に運転してくれる車に乗って快適な暮らしができれば、わざわざ火星まで出向かなくても良さそうです(月ぐらいは行ってみたいけど)。
AIが「うまい事」やってくれればいいんだけどなぁ…
それと、こういった話題に必ず出てくる「シンギュラリティ」という言葉が使われていないのが不思議でした(最後は軽い嫌味です)。