【激闘】続々登場「AIがつくったコンテンツ」を見抜く技術
コメント
選択しているユーザー
人間がよかれと思って作ったものが、人間を惑わせ、社会を混乱させる。それでもその良い面を認め、使いつつ、影の部分と戦ってきた。人類は正にその歴史の繰り返しだ。
ただ、そのレベルがどんどん向上し、もはや人間では影の部分を克服できなくなりつつある。でも、ここまで来た以上、我々はAIの影の部分と対峙して行かなければならない。
最近は偽札の話をあまり聞かない。一時は偽札や偽コインが出回り、社会を混乱させたが、これはコピー技術が高度化したことによる。でも人間は、それを上回る偽造防止策を施し戦ってきた。
そのうち現ナマを盗むより電子的に口座を乗っ取った方が手早くなり、偽札をわざわざ作るのは割に合わなくなった。
よかれと思って作られたドローンも、今や無人兵器として使われるようになったが、最初に作った人は悪用されることなど考えもしなかっただろうし、そんなことを気にしていたら新しい技術など生まれない。
CDやビデオが簡単にコピーできるようになり、人は借りたものを複製して買わずに済ませられるようになった。それは大変ということでコピー防止機能が付くようになったが、ソフト的にやっているだけで、専門家にとってみれば何のプロテクションにもならない。
でも、多くの一般の人達には効果は大きいし、世界的に法律ができたことで、万が一コピーしても、バレれば法で裁かれることとなり、良識ある人はコピーできてもしないということで何とかなっている。
ただ、このようなことは個人が無料で楽しみ、クリエーターが打撃を受けるという、ある領域に限られた問題であり、加害者も被害者もはっきりしている。
生成AIは、もはや誰でも社会全体を混乱させられるし、究極的には何が真実で何が嘘なのか、何を信じていいのかも分からなくさせる恐ろしい世界へとつながる。
ゲノム技術が進化し、もはやクローン人間を作れる段階にあるが、倫理を世界中が守ることで歯止めが掛かっている。
生成AIも倫理で歯止めを掛けないといけないのかも知れないが、ゲノムと違い、AIは専門家でなくても簡単に使えてしまうところに難しさがある。
SF映画では、AIやロボットが進化して自分で考えるようになり、邪魔な人間を滅ぼすというストーリーが多いが、AI自身が人間を滅ぼすのではなく、人間がAIを使って人間を滅ぼすというのが来るべき世界であろうと思う。
注目のコメント
AIが作ったものにはラベルを貼る？意味があるのでしょうか。それは正しいものなのか、心地よいものなのかの判断は、最終的には見る人、聞く人の判断に委ねられます。今でも、世の中はデマで溢れかえっています。
> ディープフェイクを自動検出し、それが悪意のあるものかを判定するアルゴリズムの開発を目指すプログラム
精度もまだまだですし日本語はまだのようなので実用までは時間がかかりそうですね。
最近実務でも気になるのが、オウンドメディアなどの記事外部発注で、知り得ない場所でAI作成による悪影響があるのではという懸念。納品時に正誤含めチェックをしてその人なりの人間的改変があれば良いのか？どこまで使って良いのか？バレやしない中で、チェック側の判断も悩む時が来そうと思います。
どなたかのコメントで記事納品でChatGPT利用が目立っていると拝見し、確かに！と意識するようになりました。気づきに感謝です。フェイクを見抜く技術は今後極めて重要です。著作権侵害とかではなく、独裁者やテロリストによる悪意ある情報操作の痕跡を見つけるためです。選挙中に使われれば、世論が誘導され、民主主義の根幹を脅かしかねません。
G7サミットで各国首脳が生成AIを取り上げたのもそれが理由でしょう。来年の米国大統領選挙が1つの焦点になりそうです。
