ディープフェイクポルノ被害を描いた衝撃的なドキュメンタリー
コメント
注目のコメント
誰でもクリエイターになれる時代になったからこその脅威です。記事内ではtwitchというゲーム実況サービスの人気配信者が被害者として取り上げられてますが、SNSでも手軽に顔写真を取れる今、誰にでも起こり得る状況になっています。
なお、欧米アジア圏の一部では、ポルノ作成と販売は違憲行為にあたります。今回は肖像権の侵害以前に、被害者の尊厳を激しく傷つける悪質な犯罪です。
こうして声を上げてくれる勇気ある女性がいたことで、非道な犯罪に気がつくことができました。
AIに関わるサービスを提供しその未来に可能性を感じる者として、負の側面は認識していくべきだと感じます。黙認したくないためピックします。AI判定技術の精度向上がますます喫緊の課題になりますね。
著名人のディープフェイクでニュース映像が作られると、ソースを探す習慣のない大勢の方が受け入れて真偽のわからない情報が溢れていきます。こういった肖像権侵害ポルノに加えプロパガンダにつながるものも、これからもっと大量に出てくるでしょう
生成AIサービス側が、"危険になりうるもの"は生成しない効力の強い(しかし自由な創作に干渉しすぎない)しなやかなルール決めが必要…既存の動画の顔だけ差し替えているのならまだ検知しやすそうですが、1から簡単に作れるようになったら本当に無法地帯になりそうです。加工なし認証を付けるとかフェイクを見抜くシステムを作り上げるとかしか対策は思いつきませんが、名誉も仕事も簡単に奪いかねない非人道的な行為だというのは間違いなさそうです。