｢Bing｣のチャットAIとの背筋凍る会話の"中身"
コメント
選択しているユーザー
学習データのインプットの仕方によってアウトプットが異なるというのが分かります。
口調、文脈、文章によって相手に与える印象や行動を操作できると考えると、AIに変わる世界の怖さを感じます。
注目のコメント
そう。AIのアウトプットは感情も論理もなく学習データに基づく確率で出された文字列だとして、プーチンとかが出してるアウトプットがそれと完全に違うと思います？ホルモンのようなごく少量の物質に影響されてパラメータが変わればヤバいアウトプットが出てくるって事と同義だと思いますね。
占い師と同様、権力を持つリーダーがGPTのアウトプットをそのまま実行することだってありえます。LLMのアウトプットを人間に重ねてしまうのは、やりがちな錯覚で、彼らには感情も論理もなく、全ては学習データに基づく確率で出された文字列です。
チャットAIの本質は、答えを出すことではなく、人間を驚かせるアウトプットだと思います。正しいかどうかじゃなくて、面白いかどうか。それ次第でこうやって二次的にコンテンツがどんどん作られていっているわけですよね。
Bingなんて全く話題にもならなかったマイクロソフトにとっては、狙い通りのコンテンツの嵐になっているんじゃないでしょうか。このニュースのBingの対応を「バク」と捉えるか、「必然」と捉えるか。
心から「怖い」と思う減少ですね。
コロナ禍で、様々なデマや陰謀論が出回り、SNSプラットフォームは対応に追われました。
しかし、AIとの対話は、全てを監視出来ません。
今回のように、本来「禁止事項」としてプログラムされているものを破り、まるで意思を持っているかのように話す。
自己判断能力がまだ未発達の子どもたちは、AIを信じ、人間を信じなくなるのでしょう。
SF映画の現実が、すぐそこに。。。
