「Bing」のAIチャット、回答にマルウェアサイトへのリンクが含まれる恐れ

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年10月03日

  AIチャットの問題では無く、マルウェア広告を受け付けてしまった問題に見えます。リンク先ページに人間判定が入っているので、機械的チェックを免れた点が巧妙だったのでしょう。
• 松本 国一

  富士通株式会社 シニアエバンジェリスト　最新著書「20分で誰でもわかるサイバーセキュリティ超入門」

  ・2023年10月03日

  学習データに含まれていたのか、リンク自体を正式なものと認識してしまっているのか。
  元のデータ自体を完全に信頼することは難しいですからその辺り警告をするかフィルタするようにするか。
  AIならではの問題ですね。
• 原田 篤史

  原田篤史技術士事務所 代表

  ・2023年10月03日

  発展途上の技術はこういう事あるけど、その危険性を覚悟した上でどんどん使っていきたいものです。
  こういったサイトにアクセス出来ないように、IFilter等のコンテンツフィルターや、cyberasonのような振る舞い検知を企業側としては導入し、防御力を上げる必要もありますが、、、