AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告
GIGAZINE
16Picks
コメント
選択しているユーザー
注目のコメント
AIは偏見を学習するだけで無く、偏見を強化することは以前から懸念されてきました。機械学習の評価基準、例えばAUCは偏りを強化する性質を持ちます。だから、偏見評価尺度を定め、評価関数にペナルティとして組み込む手法も開発されています。
心配なのは以下の指摘です。
「結果として既に十分なトレーニングデータを得た企業や人間が生成したコンテンツを大規模に管理できる企業が一方的に有利になる」
すでに画像AIではAdobe Fireflyが自社ストック画像のみで学習して知財問題をクリアしています。コード生成AIではAmazon Code Whisperがやはり自社コードとオープンソースのみで学習しています。最後はやはり資本力となると、新たなAI規制が要望されるかもしれませんね。