新着Pick

架空の顔で「お客様の声」「大満足」…AIで生成、90サイトで宣伝に悪用

読売新聞
AI(人工知能)で作り出された架空の人間の画像が、あたかも実在するかのような形で多数の業者の宣伝サイトで使われていることが、読売新聞の取材でわかった。商品やサービスを推奨する客などを装って掲載されていた。すでに海外では
160Picks
Pick に失敗しました

選択しているユーザー
実在しているかいないかに関わらず誰かが言っているという認識が安心感に、繋がるのでしょうね。
人気 Picker
肖像権フリーの人物画像も多く使われていますが、こちらはその画像をクエリとしてネット検索すると大量に同一の画像が出てくるので、リテラシーのある人なら気づくことができます。

ちなみに、AIで生成されたものかどうかというのも、それを判定するAIを使うと100%近い精度で(いまのところ)判別することはできます。そこまでやるひとはいないと思いますが、そのような証明書を出す機関とかも現れそうですね。

でも、これって顔が出てれば信じる人が多いという話ですが、顔がなくてもネットの評判サイトで架空のコメントをアップして評価を釣り上げるというのはよく問題になっていて、いたちごっこ。結局利用者側がいかにリテラシーを上げるかってことに終着すると思います。

最近、とある不動産投資の広告が出るようになったのでそこを覗いてみると
・確かな収益があって安心します
・営業の方も全然しつこくないです
などの「利用者の声」がそれこそ顔写真付きで並びます。ただ、その会社さんはインタビュー時の複数の画像をアップされているのでAI生成のものとは考えがたいです。一方で、「その会社名+評判」でグーグル検索すると、良くない意見も出るわ出るわ(笑)。自分はどちらが正しいかわからないですが、そのギャップをみて逆に楽しんでいます。
顔があるとなぜか信頼できそうに見えます。AIがどうこう、と言う前に、実在していないプロフィールなのであれば、普通に違法勧誘だと思います
この流れはもはや不可避で、ネットに拡がっているすべての情報に言える。ネットにはフェイクやギミックは当たり前と考えた方がが良くて、むしろ最初から鵜呑みにせず疑って見るしかない。まぁ辛い話ではありますが、、これからデジタルデトックスが必ず求められるでしょうね。
この技術の活用目的によりますが、大統領選等データによって起こりうるインパクトが過大な場合は重大な問題になるかと思います。欧州のAI法案は活用を前提としたインパクト評価の話を中心に議論されているので、AIの活用目的とその目的によって引き起こされる負のインパクトに関しては検証が必要になりそうですね。
いたちごっこになるだけなので、そもそも自分で検索する癖をつける、情報を鵜呑みにしないなど、全体のリテラシーをあげていくしかないんだろうなあ…なにごとも性悪説に基づいて判断・行動する、というのも悲しい話ですが。
他人の顔を悪用するのは知ってたけど、AIで顔を作って悪用するのは知りませんでした。もうこういうのは一罰百戒しかないんじゃないでしょうか。インチキをやったサイト名を公表するとか。でもライバル企業のサイトに偽顔で偽投稿をするのは防ぎようがないですね。
面倒な世の中になったものです。
ついに日本でも悪用するケースが来ましたか!?
海外のケースはありましたが、日本でも起きたということは、技術が社会に認知されてきた証拠でもあります。

GANという画像生成技術で架空の顔を作ることができます。
GPTという文章生成技術を使えば、架空の口コミを作ることができます。

技術は悪用されれば、凶器になり得ます。
包丁が美味しい料理も作れるけど、武器にもなるように。

社会として技術の魅力と脅威を理解し、技術進展を鈍化させることがないことを願います。
これでわかるのは、ホントに信頼できるのはリアルで知っている友人からの口コミだけ、ネットは信頼できない、特に売り手側が出す「お客様の声」とかもってのほか、ってことかと。
インターネット以前の時代に戻った感。
Deep fakeの様なのが増えてくるんでしょうね。そのうちFake同士が勝手に会話して物事決めてしまうなんて事が起きなければ良いですが…