【直言】イーロン・マスクのメンター、AI脅威論を語る
コメント
選択しているユーザー
イーロン・マスクが新たに起こすと言われるAI会社が開発するのは、このボストロム氏が言うアラインメントを司るものになるのかも知れません。
「ChatGPTなどに対抗する」とメディア等でよく書かれますが、ChatGPT等と同じ土俵で競争する、という事をイーロン・マスクが望むとは考えにくいと思います。その同軸で優位に立つ事はあまり意味が無いからです。なので、OpenAIだけでなく、GoogleやAmazonなども開発する複数のAIプロジェクトに対してもアラインメントを促し取り込んでいく様な機能をもつものが必要とされるのではないでしょうか。
イーロン・マスクが目標とする「人類を惑星間種にする」事を考えると、そうなる以前に超知能に人類が支配されない様にする為に彼は全てを賭けて挑むのでは無いでしょうか。
注目のコメント
米国が第2次世界大戦中に原爆を開発できたのは、フォン・ノイマンらが開発したコンピュータによります。
もう１つ、連合国の勝利に貢献したのは、英国でチューリングらが開発していたコンピュータがドイツ軍の暗号通信を解読できていたことです。
いずれも数学者の仕事で、第２次世界大戦で、コンピュータと数学者が、覇権を握る国家を決定する、ということが確定しました。
チューリングがこだわっていたのは、「機械が人間と会話できるか」（チューリング・テスト）ということです。
「機械に感情があるのか？」とか「機械に知性があるのか？」というのは、どうでもいいことでした。
たとえば、メールやチャットだけで10年以上やりとりしていて、会ったことはないけど、人生の諸々の出来事や仕事のこと、趣味のことに誰よりも有益な答えを返信してくれる相手がいたとします。
そして、その相手はAIだったとします。このAIは、チューリング・テストに合格です。
チューリング・テストに合格できるAIの開発は21世紀まで世界中の研究者が手がけていて、そのためには確率論を使った言語学の数学化や、代数幾何学を応用した画像認識によってAIの会話能力を発展させていく必要があり、汎用AIの基礎となりました。
チューリング・テストの延長上にある汎用AIは、つまり人間と同じように会話できる、というものです。それだけでは人類の危機とか破滅とかいった話にはなりません。
スティーブ・ヴォズニアックがいうような、「コーヒーをつくって提供できるAI」、たとえば喫茶店を単独で経営できるようなAIも可能かもしれません。
そういった「人間から仕事を奪う」にはとどまらず、少なくとも戦争には利用されるでしょう。戦闘機も潜水艦もAIで済むなら、人間のパイロットは要らなくなるでしょう。
犯罪組織がサイバー犯罪を全て汎用AIにやらせる、といったこともありえます。
「知能の爆発」とか「超知能」については、現在のところは何ともいえないことが多いです。
ただ、これまでもそうなってきたように、今後はこれまで以上に科学技術依存、科学技術を支配する者が人間を統治する社会になっていき、AIがその中核となることは確かでしょう。ボストロムはトランスヒューマニズムとか、更にオカルト感すら漂う「人類は他の生命体が作ったシミュレーション内に生きているかも」というマトリックス的な所謂シミュレーション仮説なども論じている御仁。ぶっ飛んでるようにも聞こえるが実際の技術革新自体がぶっ飛んだ所の入り口まで差し掛かっているという事でもあるのだろう。
「AIのアラインメント(設計者が意図した目標や関心に沿った結果を出すように、AIを制御すること)に関して言えば、既存の哲学的な文献をそのまま適用できるということではありません。」
哲学というと、歴代の哲学者の言葉を引用されがちですが、そうではなく、新しいAI時代の哲学を作る必要があるという意見は、もっともだと思います。
進化するAIを利用しながら、個人として自分なりの哲学を獲得して、社会としての哲学が形成されるのでしょう。
