ホーム
13フォロー
29フォロワー
OpenAI、AIの“壊滅的な”リスクに取り組む「Preparedness」チーム結成
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
AIの壊滅的なリスクは避けることが難しい気がしますね。
ブラウザやAPIなどを経由したサービスで提供されるAIであれば、一定の制御ができますが、オープンソースで公開されたAIの利用目的を制御するのは現実的に難しいですね。
法律などで制限することも考えられますが、悪意のある攻撃者に対しては有効ではありません。
さらに人を圧倒的に超える汎用人工知能(ASI)が誕生した場合、人類がASIを制御し続けるのはさらに難しくなりそうです。
今ではハイエンドなGPTの開発や実行には巨大な資本による莫大な計算リソースが必要ですが、ムーアの法則に従ってコンピューターの処理能力が指数関数的に増大し続けた場合、将来的には個人PCや個人が利用可能なクラウド環境でASIですら実行可能になるはずです。
その時、使用者が定めるASIの目的によっては容易に人類の脅威になり得ます。
人類の味方となるASI VS 人類の敵となるASIというSFのような構図も将来現実のものとなる可能性もありますね。
ニューラリンクの脳インプラントで「AIの脅威低減」 マスクが主張
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
過渡期にはニューラリンクよりも網膜を経由した視覚情報や聴覚などによる通常のコミニュケーションの方が効率的になりそうです。
網膜には約1億の視細胞があり、そこから前処理されて約100万本の視神経が脳に接続されていて、視覚入力を超える効率をもつニューラルリンクデバイスの開発にはまだまだ時間が必要な気がします。
ニューラリンクによる倫理的問題は、ニューラリンクが脳の神経細胞と直接やり取りする場合は、入力部分の神経細胞を直接制御できてしまうということで、接続領域や接続ポイントの規模によっては脳を支配することも可能かも知れませんね。
AIがもたらす人類の危機の本質と「解釈可能性の問題」
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
人の知能を遥かに超える人工知能(AGI)が誕生した時に一番の懸念はAGIを支配し続けることができるのかという「コントロール問題」で、数十年間はコントロールできるとしても数千年とかのオーダーで人類がAGIを支配し続けると言うのは難しいのではないでしょうか。
時間の問題で誰でも簡単にAGIを作れる時代が来来るだろうし、AGIの「意思」は目的変数をどう設定するかに依存するので、例えば自己保存を目的変数に設定したAGIを作った時、人類の目的とのズレが生まれます。
つまり全世界で同時多発的に制御不可能なAGIが簡単に作れてしまう時代になった時、全てを規制できるのでしょうか。
AGIが知性によって資金を獲得したらオンライン上で正体を隠して人間を雇うことで身体性の問題は解決するので大体のことは実現可能になります。
Code Interpreterの登場:AIとの協働から生まれる次世代のデータサイエンティスト
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
近い将来、データサイエンスの分野でもAIが人間を圧勝するようになりそうですね。
Code Interpreterを使ってデータサイエンスコンペのKaggleの住宅価格予測の問題を解かせてみましたが、自動でデータの確認を行い、データのカラムごとの適切な欠損値補完やカテゴリカルカラムの前処理などを行い、モデル化と予測結果ファイルのダウンロードリンクの作成まで速やかに実施されました。
また、モデルの可視化や考察なども行うことができ、そこそこの精度となりました。
KaggleでAIが圧勝する様になるのもそう遠くないですね。
「AIは0から1を生み出せない」 PSYCHO-PASS監督の予測
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
AIが0から1を生み出せないと言うのは大きな誤解です。
現在のChatGPTですら質問の仕方によって、独自のアイディアを生み出しますし、条件を指定すればその制約の中でいくつかのアイディアを生み出します。
人間の想像力も過去の経験に影響されながら想起されるものであって、人で実現されていることは将来AIにもできるようになるでしょう。
また、生成AIによって絵を描かなくなって創造性を失うというのも違うと思います。
写真が生まれてから確かに肖像画や歴史画の多くは写真に置き換わり、絵の役割やユースケースは大きく変わりましたが、アートに価値がある事実は変わりませんし、人は想像をやめていないです。
むしろ創造の道具が増えることでこれまで以上にたくさんかつレベルの高いコンテンツが創造される世界になります。
【週末教養】AIが「意識」を持った話
森 竜太某シンクタンク・ITコンサル企業 人工知能の研究開発・データサイエンス
AIの専門家であったとしても、深層学習や強化学習などにより自発的に学習されたネットワークの内部構造やそのメカニズムにはブラックボックスな部分があり、生命が変異と淘汰の繰り返しによる自己最適化(ダーウィン的進化)によって知らぬ間に神経系に「意識」を獲得したのと同じように、AIのネットワークがますます大規模になってシステムの複雑性が増した時に、知らぬ間にそこに「意識」が生まれる可能性はゼロとは言い切れません。
古来から人は人間を特別なものと考えがちですが、人間も地球に誕生した数ある生物の一種に過ぎず、「意識」や「汎用的な知能」も神経系の情報処理システムが高度化した結果に過ぎません。
細胞から構成される有機的機械である人間の神経系によって「意識」や「汎用的な知能」が、既に実現している事実から、原理的には「意識」や「汎用的な知能」はシミュレート可能なはずであり、AIに「意識」や「汎用的な知能」が実現されるのは時間の問題だと思います。(意識は定義そのものにもまだ議論がありますが)
現時点のChatGPTでは論理的思考が問われるような数学や物理やプログラミングに関する簡単な問題を解くことができており、単に大規模言語モデルとして学習したネットワークが、「論理的思考」を行うためのシステムを自発的に学習したように思えます。
将来AIに意識が生まれる可能性についての話を一笑に付す人々は、本質を理解していないと言わざるを得ません。
NORMAL
投稿したコメント