「カスタマイズできるGPT」に脆弱性。簡単だからこそ危険が潜む

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年12月03日

  プロンプト・リーキングは汎用的な攻撃手法ですし、誰でも実行可能ですから影響は大きいですね。コピーが作れてしまうリスクには気づきませんでした。
  
  ただ、この攻撃を完全に防御しようとすると、せっかくのGPT-4の柔軟性が損なわれる予感がします。悩ましい。
• 梶谷 健人

  POSTS 代表 / 新刊「生成AI時代を勝ち抜く事業・組織のつくり方」

  ・2023年12月03日

  デフォルトでプロンプトインジェクション対策が入ってないの普通にリスキーですよね。
• 倉嶌 洋輔

  （株）Focus on 代表取締役 ／『AI時代のキャリア生存戦略』著者

  ・2023年12月04日

  このGPT Storeがアルトマン事変が起きた原因の一つと見ています。
  
  ただ、巨大な新市場が生まれることは間違いないので、来年の初め頃にオープン予定に合わせて準備を進めたいと思います。