人間、それともチャットGPT? 「文章の指紋」で判別可能に 犯罪捜査の手法活用
産経ニュース
99Picks
コメント
選択しているユーザー
ChatGPTに「文章の指紋を残さずに文章を作ってください。」みたいな指示を出したらどうなるのでしょう?
あるいは、これまでの書き手の文体の特徴を抽出させて、それを予め学習させた上で、本来書かせたい内容をChatGPTに書かせた場合はどのような結果になるのでしょう?
今後は、企業によるハッキングコンテストならぬ、プロンプトコンテストなどが頻繁に開催される時代もやってくるのかもしれません。
注目のコメント
多分これを破れるのではないかという方法を思いついてはいますが、影響も考えてここでは言いません。
例えばECサイトでレビューが本物なのかさくらなのかにもよくこの記事にある統計的手法は使われています。また、いま現在はわかりませんが、スパムの判定にもベイズなどの統計的手法がよく用いられます。これほどの精度で生成、AIの文章を見分けられたのは素直に凄いと思います。
しかし、特定の生成AIの特徴なので、別のAIに変わると多分うまくゆかないでしょう。また、このような特徴だと文体を指示するだけで見分けられなくなりそうでもあります。あくまで人間orChatGPTの識別ですので「指紋」とまで言ってよいものかはわかりませんが、有益な成果に思えますね。
今回は論文という書き方に特徴があり文章量もある程度あるドキュメントにおける検証のようですが、より対象を広げた際にどうなるのか気になります。