“AIワーム”ついに登場──ChatGPTとGeminiの複数のセキュリティを突破する

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2024年03月11日

  メールアーカイブから過去メールを抜き出して外部に送信する。メール送信で着信先に自己複製する。確かに実現可能性がありそうです。
  
  プロンプトインジェクションでここまでできるとは驚きます。HTMLメールを使っていると気付きづらいでしょうね。これは怖いです。
  
  「人間を関わらせる、つまりAIエージェントが承認なしに行動を取ることを許可しないことが、すぐに取り入れられる重要な対策になる」とのこと。
  
  自動化こそが業務効率化のキモなので、これは悩ましいですね。