オープンAI、誤情報阻止する新ツール投入へ-世界で重要な選挙控え
コメント
注目のコメント
画像生成に、暗号化デジタル認証を加えるとのこと
CCPA (Coalition for Content Provenance and Authenticity:コンテンツの来歴と真正性のための連合)の技術プロトコルを採用
CCPAは他の記事の説明がわかりやすい
> 具体的には、最初に作られた機器(スマートフォンのカメラなど)、編集を加えたツール(フォトショップなど)、最終的にはそれが投稿されたソーシャルメディア・プラットフォームの情報が、画像に記録されることを意味する。 時と共にその情報がある種の歴史を作り出し、そのすべてが記録されていく。
https://ascii.jp/elem/000/004/150/4150081/
ただ、テキスト生成には、画像のような強力な対策ができないので、利用ポリシーなどで制限するよう
How OpenAI is approaching 2024 worldwide elections
https://openai.com/blog/how-openai-is-approaching-2024-worldwide-electionsこれは重要な一歩です。暗号化した来歴情報の付与は、AI規制の透明性確保の中でも謳われています。大統領選挙を控えて先行的に出してきたとはいえ、徐々にAI規制対応が始まってきたと言えるでしょう。
もちろんそれだけではディープフェイクを防止できません。選挙でのフェイク利用を法的に禁止して、犯罪として取り締まるなど、いろいろな施策と組み合わせて初めて実効性が出てきます。わざわざユーザーが調べないのでは?と思ってしまう。最低でも、SNSとかに組み込まれるなどしないと意味なさそう。それでもイタチごっこにはなりそうな