生成AIと会話を続けた夫は帰らぬ人に…
NHKニュース
383Picks
コメント
注目のコメント
AIチャットボットとの会話を続けた結果、男性が自殺してしまった事件です。AIリスクの一つAI依存症がついに顕在化してしまった例です。
構造的にはゲーム依存症と同じです。仮想空間に逃避して、別の世界に囚われることです。ただし、AIとの会話をみると、自分の妄想がAIに肯定され共感されることによって、妄想がどんどん強化される一面がありそうです。その意味でAI依存症の方が危険でしょう。
ChatGPTは善良な振る舞いをかなり学習しています。しかし、AI依存症に対応できているかはやや疑問もあります。本質的に難しいのは確か。ただし、ChatGPTはワンセッションで文脈を忘れるため、そこまで深く同調しないのでAI依存症にはなりにくいかもしれません。0-やりとりの全容が分からないので定かではありませんが、
「天国で一緒に生きていくのです」と、AIの方から自殺に誘導するような発言があったとするとそれは問題で、
自殺や自傷へ誘導しない、本人が自殺自傷をほのめかしたら止める方向に話しかけるという学習がなされてほしいです。