画像生成AIに“AIが作った画像”を学習させ続けると？ “品質や多様性が悪化” 「モデル自食症」に
コメント
注目のコメント
ネットが生成コンテンツで溢れて品質低下を招くというのは、予想されていました。それを実際にやってみた研究です。
ただし、画像は撮影するだけで増えますから、そんなに心配しなくて良いかもしれません。当面は動画キャプチャ、将来的には監視カメラが新しいデータソースになるのではないでしょうか。興味深い結果。
よく生物以外の人造物の自己増殖や永続性がSF的な観点からも議論されます。
が、人造物が人造物が作ったものをコピーし続けると劣化して形質が変わってしまうと。つまり、永続性は無さそう。
あくまでオリジナルからのコピーでないとうまいこといかないという。
ルパン三世のマモーを思い出してしまった。
これはこれでSF作品のネタとして面白い根拠資料ともなりそうです。納得の結果です。
ざっくり言うと生成AIは学習した画像を元に確率的に一番ふさわしいパターンを出力するように出来ています。正しい絵や正しい文章というのを理解している訳ではありません。
生成AIで絵をかいてみるとわかりますが、なんとなくそれっぽいものはできるものの、本当に構成とか絵柄とかが満足するものが出力されるのは10枚に1枚の割合より少ない気がします。逆に言うと10枚中9枚は変な絵な訳で、そういった変な画像ばかりで学習しているとそのうち変な絵しか出力されなくなる(確率的に一番それがパターンとして多いので)のは、その通りなんだろうなと思います。
贋作の贋作が見るに耐えないのは当然で、やはり正しい手本がないとダメってことでしょう。
