AI時代に大問題化の恐れ 「自動化バイアス」とその克服法
コメント
選択しているユーザー
AIの提案に疑問を持たなくなる（＝自動化バイアス）ことの危険性を伝える記事です。
このバイアスに掛かっていない健全な使い方をしている例がマーベルの映画「アイアンマン3」に出てきます。
主人公のトニー・スタークが、テロリストによるテロが起きて、その分析をAIのジャービスとともに行うシーンがあります。
その中で、今回のテロよりもかなり前に起きた爆発事故についてトニーが深掘りしようとしますが、AIが「これはテロよりもかなり前なので時期からして無関係です」と応答します。
ここで「なるほど、そうか」となるのが自動化バイアスですが、トニーは「いいから見せろ」と分析を続けます。
AIが分析を進めると今回起きたテロとこの爆発事故の熱紋（熱の温度や広がり方）の特徴がかなり近いことが判明し、検証のため、その事故現場（テネシー州）へのフライトプランを立てさせるというシーンです。
これを初めて見た時に、トニーの態度が素晴らしいなぁと思い感動するとともに、きっとこんな未来は30年くらい来ないと思っていたのですが、すぐ来たのでとても驚いています笑
是非、アイアンマン3を見返していただいたり、AIが出てくる映画やドラマでユーザーが自動化バイアスにかかっているか否かという観点でも見て頂ければと思います。
また、現在最も性能の高いClaude3について、下記のNewsPicksの記事で触れていますので、是非ご覧ください！
ただし、性能が高いAIを使うほど、説得力も隙がなく上がるため、自動化バイアスにかかっていないかは常に意識するようにしましょう。
【画期的】競合各社の高性能LLMを使い分けられる夢のツール
https://newspicks.com/topics/tech-biz/posts/22?fromNews=true
注目のコメント
AIに当初から期待したいと考えるAIが果たすべき作業は、人間が判断を最終的に行う前に集めるデータであったり、その分析作業や、分析から見えた傾向など、そこに至るまでの作業を補完するところでした。
AIは進化を続けいつの間にか判断する箇所でさえも、完全な自動化としてAIが介入してしまうことのバイアスの問題を伝えていますね。AIは、活用するものであり、今後の生活には浸透し全て協業できるものでありますが、一方で人が判断も鈍くなりスキルも落ちてしまわないように、AIのリスク、AIガバナンスも正しく理解することが必要ですね。
AIが浸透し常にあらゆる場面でAIと協業することでの人が果たすべき役割が何であるかを正しく理解し、活用を続ける必要がありますね。
適用する領域における自動化のバランスと人間の判断作業のもたらす有益な経験との掛け合いが必要なのだと思います。過度にAIに頼りすぎることは良くないという記事。過度に自分の感覚に頼って提案があっても信じないという人もいるから、そのバランスが難しい。AIが強い領域を見極め、注意が必要なものをわかっておくのが大事だと思う。
