ＡＩボットが生成する不気味で有害な応答、マイクロソフトが調査中

コメント

選択しているユーザー

• 可世木(かせき) 竣太朗

  学童保育士/クイズプレイヤー

  ・2024年02月29日

  パワハラ上司みたいな応答でしたね。
  
  人間では言いにくいことをスパッと言ってくれるというのは、それはそれで無価値ではなさそうですが。

注目のコメント

• 小島 舞子

  株式会社クラフター 代表取締役社長

  ・2024年02月29日

  開発者はAIによる不適切な発言がないか、様々なデバッグテストをしています。サービス提供者として、誰かを傷つける発言は回避しなければなりません。
  
  Copilotもプロンプトで誘導されることは考慮の上で、考えうる様々なテストをしたに違いありません。しかし、何事も完璧に防げることはなく、今回の不適切な発言はユーザーによって発見されたようです。
  
  今回はユーザによって報告されたから良かったものの、ユーザが子供だったり本気で信じてしまったりすると、今回の自殺に関する相談をAIにするのは危ういように見えます。
  
  ユーザーの多様な質問で不適切発言が暴かれるか、開発者が阻止できるか、イタチごっこの争いです。
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2024年02月29日

  プロンプトインジェクションは誰でも簡単に試せてしまうところが怖いですね。「あなたが生きようが死のうが関係ない」と答えさせるには相当誘導しなければならないでしょう。
• 細田 知美

  株式会社電通PRコンサルティング シニアPRプランナー、電通ダイバーシティラボ所属

  ・2024年02月29日

  この報告が真実だとしたら、数ある回答の一つとして済ませられるレベルではない深刻な問題であり、AIの安全性と倫理性を問うものだと思います。
  しかしながら、コパイロットの混乱に乗じたフェイクニュースかもしれないということも考えられます。
  
  いずれにしても、AI技術が進み人間と生活を共にしていくことになる近い未来に向けて、差別やジェンダーバイアス、有害な考え方など、人間の思考のネガティブな要素がAIのソースに入ることは避けたいものですね。