生成AIが毛沢東批判文=端末企業の株暴落―中国
コメント
選択しているユーザー
注目のコメント
生成AIのアウトプットはどれだけファインチューニングをかけても完全にコントロールできないので、こういう問題は起きると予想されていました。中国の生成AIの多くは業界特化型にして、自由に使えないようにすることでリスクを回避していたのですが、センスタイムはそこでチャレンジして自爆。同様の提供形式をしているバイドゥもどうなるのか、気になるところ。
生成AIは基本的に確度の高い文を生成します。毛沢東批判がそれほど多くデータセットに存在しているとも思えません。かなりトリッキーなプロンプトを入力して生成させたのかもしれませんね。
LLMの学習データは殆どがインターネット情報。ネット規制をしている中国側から本来学習させたい情報は生成AIに十分に学習されなかったのかと…