今日のオリジナル番組


詳細を確認
タブーに切り込め!ここがおかしい「日本の保険」
本日配信
389Picks
Pick に失敗しました

選択しているユーザー
今や、画像だけでなく音声もフェイクを作ることが可能です。したがって、たとえばどこかの国の元首が全世界に宣戦布告するフェイク映像を作ることも、不可能ではありません。

そういったセンセーショナルな映像は、すぐ大衆に流れてパニックを引き起こすでしょう。フェイクか否か判定して「フェイクです、パニックにならないで」なんて言い出しても鎮静化なんてしません。そもそも、最新のフェイク映像にフェイク判定ツールが対応するまでには時間がかかるのです。

機械学習の最先端にいるエンジニアはどうお考えなのでしょうか。やはり「私は技術を発展させただけ。誰がどう使うかは知らん」なのでしょうか。この顛末は予想されていたように思うのですが……。
人気 Picker
AIにはAIを。弊社でもGANの生成した顔画像を見分ける機械学習モデルを作りましたが、その時は人間が驚くほどの非常に高い精度で見分けることができました。生成する側と見つける側のAI対AIのいたちごっこになりますが・・・。この記事の指摘する問題の一部は生成されたかどうかを見破ることで回避できるものの、そもそもこういう技術を前提にルールはできていないので、検討が必要ですね。
deepfakeに用いられているGANでは、Generatorはより相手をだまそうと、Discriminatorはより嘘を見極めようと互いに切磋琢磨して、精度を磨いていきます。そのため、これからもどんどんdeepfakeの見極めは難しくなっていきます。
ポルノに関して言えば、見る側を罰するようにしてしまえば、手っ取り早いとは思いますが、今後デザイン・絵画・執筆など、著名な作家の作風を学んだ模造品が悪用される可能性はあり、誰がどのように責任を持っていくのかを、公として設計していくべきですね。
そもそもAIが作ったクリエイティブは誰のものなんでしょうね?
ディープフェイクはどんどん大衆化が進み、今では200~300枚ほどの写真があれば、数百円で作成を請け負うサイトがたくさん出てきています。以前は見分けるポイントとして「ディープフェイクは瞬きしない」(もととなる画像はみな目を開いている画像なので)「歯が1本1本分かれておらず白くつぶれていることが多い」(目立たない部分なので画像処理すると不自然になる)と言われたものですが、克服されるのも時間の問題でしょう。
最近、

マイクロソフト、ディープフェイクを検知する新技術「Video Authenticator」を発表
https://newspicks.com/news/5195033

という記事がPickされました。これは下記の技術が下地になっていると推察されます。

Face X-ray for More General Face Forgery Detection
https://arxiv.org/abs/1912.13458

あらゆるディープフェイクを見破る「Face X-ray」Microsoftが取り組むSOTAな技術とは?
https://ai-scholar.tech/articles/image-recognition/face-x-ray-ai-368

これまで、DeepFakeを作るのに使った技術が特定できていないとそれで作った技術かどうか見破ることが難しいという難関がありましたが、これをうまい工夫によって見破って見せるというもの。

ただ、「こうやって見破っている」と技術が公開されてしまえば更にそれをdescriminatorに入れることによって見破れなくする技術は出現し得てしまいます。いたちごっこ。
先日はマイクロソフトがディープフェイクを検知する技術を発表し話題になりましたが、それほどに蔓延している現状。「ひとつの産業として完成」しているとは、衝撃です。

・マイクロソフト、ディープフェイクを検知する新技術「Video Authenticator」を発表(2020年09月02日)
https://newspicks.com/news/5195033
・アングル:ディープフェイク最前線、「実在しない記者」暗躍か(2020年07月24日)
https://newspicks.com/news/5079495
デジタルを牽引するのはしばしば「エロ」ですが、プライバシー権の整理についても、ディープフェイクポルノの氾濫が契機になりそうですね。テクノロジにはテクノロジーで対抗するのが得策なのでしょうね?
とはいえ女性に各国の男性の指導者・首脳をくっつけた動画はかつてないのどの腹がよじれる笑いをもたらしてるわけで必ずしも政治的な危険性だけかというと民衆のパワーの方が上回りそう。
ただ、愛知トリエンナーレみたいな「表現だからokでしょ?」みたいな顔で他者をとことんに不愉快にする表現を公の場で後ろ盾を得ながら発することは断固として反対する。仲間うちでやってくださいや。