【大混乱】世界を埋め尽くす「AIフェイク」の狂った現実
コメント
注目のコメント
「ディープフェイク」なる造語が世界で使われるようになってから、5年ほど経ちます。
Deep LearningとFakeを合わせてできた言葉です。
ネット上、特にソーシャル・メディアにフェイク画像やフェイク映像が流布されるようになったのは、何年も前のことです。
しかし、ビッグデータを学習したAIで、フェイクの画像や映像、音声を簡単に生成できるようになってから、「ディープフェイク」は、質、量ともに、従来をはるかに上回るようになりました。
「トランプ氏がこういう演説をしていた」とか、「あの有名俳優がこんな不祥事を」といったフェイク動画を、本人が話しているようにしか聞こえない音声でつくって、ネット上に流すことも簡単にできるようになりました。
ある程度組織的にやれば、株価の操作くらいはできるし、実際にやっている集団もあります。
怖いのは、民族や宗教に基づく過激思想を持つ集団が、暴動などを起こすのにも簡単に使えることです。
「～人の男たちが我々の民族の女の子を誘拐して車で連れ去っている」動画を、女の子が助けを求めて泣き叫ぶ声も入れて、簡単につくることができます。それをソーシャル・メディアに何千と流して、「あの男たちはどこそこの町のこの地区にかくまわれている」といった情報もしばらくしてから流せば、効果があるでしょう。
ロシア・ウクライナ戦争でも、すでにロシア側のこういったディープフェイク工作は活発ですが、たとえば、今、一触即発で大規模な戦争が勃発しようとしているニジェールなどの西アフリカの情勢については、毎時、ものすごい量の、ディープフェイク動画を含むフェイク情報がバラまかれています。ロシアの関与もあるでしょう。
ミャンマーでロヒンギャが迫害される際にまずフェイスブックでフェイク画像が拡散されるとか、ソーシャル・メディアを政治扇動に使うことは、もう10年以上前からありますが、今はさらにひどくなり、悪貨が良貨を駆逐する勢いです。
ソーシャル・メディアが、情報収集の役に立たなくなりつつあり、むしろ社会的な弊害の方が大きくなるのが止められなくなってきています。ディープフェイクが選挙に与える影響は計り知れません。これは選挙を歪める民主主義の根幹を脅かす問題です。
日本で政治家フェイクが少ないのは、政治への関心が薄いから、そこまでして当選させたい政治家が少ないからかもしれません。AdobeStockにも生成AIで作成された画像がアップされています。画像の右横には、生成AIで作成されたことが明示されています。その精度は高い。
普通の写真よりも手を入れているので、作成コンセプトが色濃く反映されています。最近のNCBレポートには、生成AIで作ったものが多くなりました。参考までに、以下のサイトの赤いバラの写真は生成AIです。
https://www.ncblibrary.com/posts/118927
