米OpenAI「公表しないで」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表

コメント

選択しているユーザー

• 佐々木 励

  AI企業 旅する魔法使い

  ・2024年03月14日

  > 「責任ある情報公開の一環として、OpenAIはこの数値を公表しないよう求めている」と書かれており、gpt-3.5-turboの隠れ層のサイズが伏せられている
  
  Google DeepMindも、OpenAIとケンカしたいわけではないので、論文の公表前にOpenAIに確認をとる大人の対応をしたのですね。
  
  この攻撃手法は、LLMの構造に熟知した者の発想。LLMを開発しているGoogle DeepMindだからこそ発見できた攻撃かも。

注目のコメント

• 佐々木 一寿

  研究者、ジャーナリスト、編集者、作家、経済評論家

  ・2024年03月14日

  記事を読む限りでは中身を盗むというよりはソナーで内部空間の大きさがわかるという話のような気がします
• KATO T

  ITビジネス

  ・2024年03月14日

  内部構造がバレるとAIバブルが萎んでしまう？