マイクロソフト、ディープフェイクを検知する新技術「Video Authenticator」を発表
コメント
注目のコメント
今回マイクロソフトが発表したディープフェイクを見抜く技術としては大きく２つ。
(1)識別系AIによる本物スコアの算出
(2)デジタルハッシュと証明書
(1)については、ディープフェイク生成の技術が上がれば、見抜くことが難しくなるというイタチゴッコに陥る可能性がある。もしかしたら本命は(2)かもしれない。AI時代において、何が本物で何が偽物かは目に見えるものではもはや見分けがつかず、偽造できない証明書によってしか保証できない世界になるかもれない。デモ画像などを見るに、特に顔に特化して判定を行っているようですね。人間の目にはわからなくても、現状ではDNNでreal/fakeを判定させればかなりの高精度が出ます。DNNで生成させると独特のパターンが出るからです。
ただ、コンピュータウイルスにしてもAdversarial attackにしても、攻撃側が優位に立てる場合が多いです。防御側はどうしても未知の攻撃に対してころっと負けてしまうことがあります。この場合でいうと、Microsoft Video Authenticatorで真贋判定できない画像を生成する技術はそのうち登場する、ということです。GAN（敵対的生成ネットワーク）があるので、この新技術で偽物だとAIでわかれば、逆に偽物だと見破れないものをAIが自動生成できるようになってしまいますね。
進化は止まらないので、早晩、本物であるかどうかを動画のみから見分ける事は合理的では無い、という結論になり、他のソースを参照して見分ける技術が必要になりそう。
