チャットGPTがウイルス作成 開発者装うと悪用可能に

コメント

選択しているユーザー

• 広木 大地

  株式会社レクター代表/日本CTO協会理事 朝日新聞社社外CTO

  ・2023年04月21日

  技術的には、ナンセンスな話をしてるなという感じはするのだけど、確かに「悪用可能」にといえば、そうなのかも。ただ、GPTに被せたインストラクションのレイヤーが回避可能だとして、生のGPT3.5自体公開されてるのでそもそも関係ない話に聞こえてしまう。しかし、一般の人から見て、どうかという目線は確かに考える必要はありそう。

注目のコメント

• 小島 舞子

  株式会社クラフター 代表取締役社長

  ・2023年04月20日

  開発者モードは、いわゆるブラウザにあるコンソールみたいなもの。GPTだと開発者モードに切り替えることで、プロンプトをチェックしたりスーパーユーザーになれたり回答前に候補として上がった結果を確認できる。
  
  ChatGPTの今後の学習のため、制限をかいくぐって悪用できた特殊な命令をバグとしてOpenAIに報告してほしい。ただコードだとある程度検証し報告し続ければバグはなくなるけど、テキストの汎用性×犯罪者の想像力を考えると可能性がたくさんあるし、いたちごっこになりそう。
• 増田（ソウタ） 幸美

  日本プルーフポイント株式会社 チーフエバンジェリスト| 警察大学校講師

  ・2023年04月20日

  悪いところばかりに目を向けて禁止すると、お隣の国との差は開くばかり。倫理的なガイドラインは必要ですが。