GPTで脳から言葉を読み取る、その心配されるリスクとは？

コメント

選択しているユーザー

• 紺野 大地

  東京大学 医師、神経科学者

  ・2023年05月08日

  この分野の研究者です。
  非常に興味深い研究だと思います。
  
  一方でこの研究で行われたのは、
  「頭の中で想像したら単語を逐一読み取る」というタスクではなく、
  「5つのストーリーのうちどれを想像しているか当てる」という非常に楽なタスクでした。
  
  この条件でさえ正答率の中央値が40%であることを考えると、実用化にはまだまだ越えるべきハードルだらけである、
  というのが率直な感想です。

注目のコメント

• 和田 崇

  ㍿Laboro.AI 執行役員／マーケティング部長

  ・2023年05月08日

  どのような仕組みなのか全く想像つきませんが、すごいですね…。
  
  この実験では2018年の初代GPTを使っているとのこと。GPT3〜4への応用と、さらなる高度化が期待されます。
  
  一方、記事でも書かれていますが、主として医療シーンをメインに、障害がある方などへの活用が期待されるところですが、一般利用には悪用・リスクが安易に想像されるため、かなり慎重な利用と規制が必要とされることは間違いなさそうです。
• 石原 直子

  株式会社エクサウィザーズ　はたらくＡＩ＆ＤＸ研究所 所長 ／リクルートワークス研究所　客員研究員

  ・2023年05月09日

  リスクがあるとしても、ALSなど意思を伝える手段を失った人々にとっては大きな希望の光になる。gpt4や、これから生まれるであろうより強力なエンジンとセットになればかなりのことができるようになるかもしれない。
  
  リスクについては「想定し対処する」を繰り返すこと、その義務を開発サイドにも利用サイドにも課していくことで最小化していく、以外にないのでは。