米バイデン政権 AIの安全性に関する新基準などの大統領令公表
コメント
選択しているユーザー
生成AIの研究をしていますが、個人的な意見としては、生成AIはデジタル空間上で動く人間の脳と考えれば分かりやすいと思っています。
この記事によると、今回の発表は一言で言うと『政府レベルでリスク管理と活用に関与』するよという宣言かと思います。
内容をさらにブレイクダウンすると
・安全性
・プライバシー保護
・労働者支援（AIで職を奪われた場合への対応）
・技術革新と競争の促進（世界一の地位を守る！）
という事のようです。
それそれ詳しい内容は書かれていませんので、今回は大枠の宣言でこれから詳細が検討されていくものと思われます。
最初に書きましたが、生成AIはデジタル空間上での人間の脳（のようなもの）の為、多分、多くの方が今思っていることよりも、かなりの事が出来ます。しかも、デジタル脳（生成AI）をアラインメント（チューニング）した人の思想にしっかり染まって忠実に動いてくれます。
よって、例えば、人類の未来にとって「良くない思想」（良い悪いがあるのかは分かりませんが、あえて分かりやすく）でアラインメントした強力なデジタル脳が（その人やその組織の為に）動くと、世界的に莫大な被害が発生する可能性があります。
結局、生物もそうですが、脳力の戦いにはならざるを得ないので、国民を守りながら生成AIテクノロジーで世界一を守り抜くという宣言なのだと思います。
注目のコメント
米政府が発表した大統領令の方針は、これまでOpenAI、Google、Meta、AnthropicなどAI開発大手と協議しながら進めてきたこともあって、企業への罰則案が見送られるなど、企業側に配慮した内容になっているようです。
米国と並んでAI規制の国際標準を狙うEUがかなり厳格なルールを施行していることに対して、米国はAI産業側・技術側で自国各 企業が実質的に市場を牽引していることもあって、そこまで強い規制を掛けることは産業競争・技術競争でマイナスになるとの判断もあるのかもしれません。
その一方で、来年には大統領戦を控えるバイデン大統領にとっては、何かとネガティブな話題も呼んでいるAIを野放しにするような方向性も取れず、企業側に影響がない範囲での厳格化を探った結果が、今回の大統領令の内容になっているように想像しています。
真意はわかりませんし、具体はこれからですが、非常に政治的というか、様々な方面への影響に配慮された発表内容になっていることを感じます。
本件については、こちらの記事も詳しいです→https://www.nikkei.com/article/DGXZQOGN301180Q3A031C2000000/政府が実質的にどこまで評価できるかですね。
生成AIプレーヤーのOpenAI, Google, Metaなどは、さまざまな専門家を集めた「レッドチーム」を組織し、生成AIの安全性の評価・改善をしています。その上で、政府がさらに踏み込んだ評価をするのか注目。
OpenAI、「レッドチーム」を立ち上げ--AIのリスク管理強化に向け専門家を募集
https://japan.zdnet.com/article/35209344/私が評価したいのは、リスクの高いモデルにおいては開発過程を共有することを求めるとしたことです。深層学習アルゴリズムの特徴として、AIそのものの説明可能性が低いことはやむを得ないのが現実。開発プロセスが、出来上がったモデルの特性を決定づけるという前提に立てば、ずさんな開発をする開発者に責任を問うことができる。
