ホーム
10フォロー
420フォロワー
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
川崎 裕一カワサキ企画 代表取締役社長
OpenAIのSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日に退社を発表した。ライケ氏は、OpenAIの幹部チームと優先事項について合意できなかったことを理由に挙げ、特に安全性が製品開発よりも後回しにされていると批判した。
曰く 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」
先日はOpenAIの共同創業者のイリヤ・サツケバー氏も14日に退社を発表している。ビジネス拡大の局面において、安全策が後回しになっていることは、重要な2名の幹部社員の退社からして明らか。
EU、マイクロソフトにビングのAIリスク情報提供要求 制裁の可能性も
川崎 裕一カワサキ企画 代表取締役社長
欧州委は生成AIのリスク情報提供をマイクロソフトに要求。情報提供がない場合、制裁金を科す可能性あり。DSAに基づき、IT企業は違法・有害コンテンツ対策が求められる。
AIがどの程度幻覚を見るのか、そしてその幻覚を見る理由は何なのか、その影響範囲はどの程度なのかといういくつかの切り口での問題提起があると思われる。ただどの問題についても、相当回答しづらい。
幻覚がどのような理由で起きるかはわかっていない部分が大きいし、幻覚がどのくらいの頻度でかというのも難しい。見ることは間違いないが、どんなプロンプトをどんな条件でいれると起きやすいかは各社絶賛調査している途中の認識。
そして幻覚がどの程度の範囲で影響を及ぼすかについても、どの領域で、どのくらいの範囲で起きるかでだいぶ違う。有名人についてはその発言の影響度が大きく、本人はもとよりその周りに及ぼす影響も大きい。領域としても政治的なトピックだったりするとこれは影響力が甚大。これらのことを調べて回答となると相当大変そう。
GoogleのピチャイCEO、生成AIの規制「世界的な枠組みが必要」 - 日本経済新聞
川崎 裕一カワサキ企画 代表取締役社長
グーグルのCEO、スンダー・ピチャイ氏は、生成AIの規制について世界的な枠組みの必要性を強調。各国で進むAI規制法案の動向を評価しつつ、技術革新と安全のバランスの重要性を訴えた。また、偽情報の拡散やプライバシー侵害などの課題に対する対策を進め、新技術「Synth ID」を発表。
動画にデータを埋め込んでAIが作成したかどうかを判別するSynth IDが注目。
「Synth ID」は、DeepMindとGoogle Cloudの共同開発により、人間の目には見えないデジタルウォーターマークが画像に直接埋め込まれ、特殊なアルゴリズムによって検出される。これは画像だけでなく、テキスト、オーディオ、ビデオにも適用可能で、その応用範囲は広い。
SynthIDは、Vertex AIを使用する顧客向けに提供されており、Imagen 3やImagen 2などの高品質の画像生成モデルで使用。最新のビデオ生成モデル「Veo」にも統合されており、特定のクリエーターがVideoFXで利用できる。
大学発スタートアップ、大阪大学や北海道大学が躍進 23年度調査 - 日本経済新聞
DAO経営、第三者に投票権預託 大口出資者の対抗軸に - 日本経済新聞
川崎 裕一カワサキ企画 代表取締役社長
タネ社CEOの六人部生馬はアンドリーセン・ホロウィッツから4億円相当のトークン預託を受け、ブロックチェーン企業オプティミズム(Optimism)の意思決定に参加する。
Optimismは、「Optimistic Rollup」という技術を開発。イーサリアムのメインネットワークの負荷を軽減するために、トランザクションデータをサブチェーンで処理し、最終結果のみをメインチェーンに記録する。結果、低コストで高速なトランザクションが可能となり、特にDeFi(分散型金融)やNFTのアプリケーションにおいて高い評価を受けている。
OptimismはDAO(Decentralized Autonomous Organization)として運営され、プロジェクトの重要な意思決定はOPトークンを持つコミュニティメンバーの投票によって行われ、これが自治的かつ透明なガバナンス構造を生み、プラットフォームの信頼性とユーザー参加を促進している。
今回のタネはこの意思決定プロセスに、a16zの代わりに関与するということで、結構大きな話。株主に対して、議決権行使を助言する議決行使助言会社的な側面を持つといアナロジーがわかりやすいかもしれない。
オープンAI共同設立者サツキーバー氏が退社を表明
川崎 裕一カワサキ企画 代表取締役社長
OpenAIのチーフサイエンティスト、イリヤ・サツケバー氏が、新しいプロジェクトのためにOpenAIを離れることを発表。
サツケバーは2015年にOpenAIを共同設立し、昨年はCEOのサム・アルトマンの一時解雇に関与していたが、のちに復帰を支持した。同氏の退職に伴い、彼の側近でAI倫理担当のJan Leikeも退社。OpenAIは他の幹部の離職も続いており、今後の組織再編が進む。
後任には研究者のJakub Pachockiが務める。Jakub Pachockiはワルシャワ大学でコンピュータサイエンスの学士号を取得、カーネギーメロン大学でコンピュータサイエンスの博士号を取得、ハーバード大学でポスドク研究員。その後2021年からOpenAIに勤務しています。
特にGPT-4の開発において重要な役割を果たす。
代表的な論文は次の2つ
『Emergent Complexity via Multi-Agent Competition』
複数のエージェントが競争する環境でトレーニングされた場合、エージェント間の相互作用が高度な戦略や技術を生み出すことを示している。
『Tuning Large Neural Networks via Zero-Shot Hyperparameter Transfer』
他のモデルから学習した知識を利用して新しいモデルのパラメータを迅速に調整する方法を提案。大規模なニューラルネットワークのハイパーパラメータチューニングのコストを削減できる。
アマゾンの稼ぎ頭AWS、CEO交代へ-セリプスキー氏が退任
川崎 裕一カワサキ企画 代表取締役社長
Amazonのクラウドサービス部門AWSのCEOであるアダム・セリプスキー氏が退任、後任はマット・ガーマン氏。
セリプスキーは、AWSの創設メンバーの一人で、2016年にTableau SoftwareのCEOに就任後、2021年にAWSのトップに復帰し3年AWSを率いてきた。セリプスキーは、Microsoftと対抗する人生を送ってきている。クラウド市場の発展の中、シェアを落とさなかったことは評価できる。厳しい言い方をすれば、SalesforceとのQuip買収を検討し失敗。Azureの顕著なシェア拡大、Googleのシェア拡大を十分止めたとは言えない。
人間への脳インプラントに“問題”が発生、ニューラリンクの挑戦は険しい道のり
川崎 裕一カワサキ企画 代表取締役社長
脳と外部デバイスを直接つなぐインターフェイス(BCI)を開発しているニューラリンクは、四肢まひ患者への脳インプラント手術後にデバイスの問題を公表。初期は順調な回復と有望な結果が報告されましたが、数週間後にデバイスが誤作動。原因は、一部の電極が脳組織から抜け落ちたせいであり、デバイスの独自設計に起因する可能性がある。
企業だから、患者が求めるより付加価値の高い商品を提供するのは当たり前。そしてそれを失敗なしに行うのは困難。医療であるからもちろん十分な配慮を行う必要があるが、取り返しのつかない失敗ではないということであれば、再発防止策を講じた上で、本事業は継続したほうが良いのではないか。四肢麻痺の患者にとっての光を、過剰に反応して閉ざしてはならないだろう。
ニューラリンクの技術は脳が発する信号から動作の意図を読み取り、まひ症状のある人が考えるだけでカーソルを動かしたり、キーボードで入力したりできるようにする。更に将来的には、テキストを音声に変換するなど、より複雑なタスクを実行できるようになる。そのためは、より高いデータ転送レートが重要。ニューラリンクとその競合が競争を行えれば行うほど未来が明るくなる。
アップル次期CEOは内部人材起用か、存在感増す若手が候補に浮上
川崎 裕一カワサキ企画 代表取締役社長
後継者を考える前に、後継者に求められるビジョンと能力の話が先。それをもつ人間が必然的に後継者になる。
その点で、アップルが手本とすべきモデルはマイクロソフトだろう。
スティーブ・バルマーCEOの後任として取締役会から指名されたサティア・ナデラは急成長中のクラウドコンピューティング部門の責任者だった。
今Appleで成長している唯一のセグメントはサービスセグメント。ここのサブスリプションモデルをAppleで再構築することで継続的な売上を確保することが今後力を入れていかねばならないAI投資のためには必要不可欠。Apple Vision Proが次のデバイスの有力候補になることは間違いないが、ユーザー体験を劇的に向上させるためには、AIと密結合したサービスが前提として必要。
まとめると、次のようになる。
1.クラウドに代表されるサービスセグメントの増大とそれによる継続的な売上確保、2.AIに対する投資の継続。買収含む、3.AppleのiPhoneではないデバイスにAIサービスを密につなぎこみ、魔法のようなユーザー体験を提供する。有力なデバイスはApple Vision Proだが、そうではないものになるかもしれない。
Meet MAI-1: Microsoft Readies New AI Model to Compete With Google, OpenAI
川崎 裕一カワサキ企画 代表取締役社長
Microsoftは、OpenAIに10億ドル以上を投資してAIモデルの再利用権を獲得して以来、初めて、Google、Anthropic、OpenAI自身の最先端モデルと競合し、5,000億パラメータを持つ大規模な独自AIモデル「MAI-1」の開発に着手。
これは、OpenAIのGPT-4(1兆以上)やMetaやMistralなどの小規模なオープンソースモデル(700億)よりも大規模でより多くの計算能力とトレーニングデータが必要で、コストも高くなる。このプロジェクトは、Inflection の CEO を務めていたMustafa Suleyman監督。このモデルを動かすためにも、**Nvidia**のGPUを搭載したサーバーの大規模なクラスタを確保、訓練データのコーパスを作成。データセットには、インターネット上の公開データなどの他のソースから抽出したデータも含まれる。
モデルを開発し、モデルを動かすハードウェアを用意し、その材料となるデータセットも用意する。これらを継続してやり続けるためにはかなりの費用が必要となり、ますます競合とMicrosoftの差が広がるばかり。
The Big Threat Hanging Over Google
川崎 裕一カワサキ企画 代表取締役社長
米司法省がGoogleの検索事業に対する反トラスト訴訟に関して提出した509ページの「事実認定の提案」に注目。Googleが敗訴すればGoogleの主要収入源である検索事業に制限がかかる可能性も。
AIが検索に脅威を与えるとされつつも、Googleはこれまでのところ、AIと検索を融合させつつコストも削減。市場シェアを維持することに成功しています。
ただ今後Googleの検索事業がトラストとみなされた場合には、収益力の減少が起きることは間違いなく、そのダメージコントロールを考えなければならない。これにうまく対処できなければAIに対する投資額の減少を引き起こし、マイクロソフトととの差が開いてしまうかもしれない。
NORMAL
投稿したコメント