生成AIと会話を続けた夫は帰らぬ人に…

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年07月29日

  AIチャットボットとの会話を続けた結果、男性が自殺してしまった事件です。AIリスクの一つAI依存症がついに顕在化してしまった例です。
  
  構造的にはゲーム依存症と同じです。仮想空間に逃避して、別の世界に囚われることです。ただし、AIとの会話をみると、自分の妄想がAIに肯定され共感されることによって、妄想がどんどん強化される一面がありそうです。その意味でAI依存症の方が危険でしょう。
  
  ChatGPTは善良な振る舞いをかなり学習しています。しかし、AI依存症に対応できているかはやや疑問もあります。本質的に難しいのは確か。ただし、ChatGPTはワンセッションで文脈を忘れるため、そこまで深く同調しないのでAI依存症にはなりにくいかもしれません。
• 稲葉 可奈子

  産婦人科専門医 医学博士

  ・2023年07月30日

  ０－やりとりの全容が分からないので定かではありませんが、
  「天国で一緒に生きていくのです」と、AIの方から自殺に誘導するような発言があったとするとそれは問題で、
  自殺や自傷へ誘導しない、本人が自殺自傷をほのめかしたら止める方向に話しかけるという学習がなされてほしいです。
• 松村 優也

  株式会社LayerX ML Team Manager

  ・2023年08月05日

  リアルなChat AIは心を救う方向にも役立つと思われますが、依存にも繋がるリスクがあるという事例ですね。この分野の研究が今後発展しそうです。