「人を審査するAI」のリスクとは？ 現金給付アルゴリズムが“暴走”した世界銀行の事例
コメント
選択しているユーザー
ここに書かれて間違い自体は仮にアルゴリズムを人に置き換えても起こる可能性が高い問題なので、どちらかというとAIが発達しても任せっきりで思考停止しないことが重要だという事の警鐘であって、AIやアルゴリズムを使うなという話でもないというのが重要。AIはいいか悪いかみたいな二項対立はわかりやすいけど現実的ではないので注意が必要。
注目のコメント
そういえば数ヶ月前、ある児童相談所がAI分析結果を参考に一時保護を見送ったことがありましたね。
（結果、事件に繋がってしまったという内容の報道。
これも「自動化されたネグレクト」に該当してたのかなと。
AIに限らずシステムを社会実装しようとする場合、事前に全ての事象についての原因と結果を把握するのは不可能なので、人の目からみて機械が "誤認" することは当然あります。
間違いなく起こる "誤認" にどのように対処していくのか、実装に移す上では大切で、その上で「透明性」の確保は重要なのだと思いました😌「福祉政策のように社会的なインパクトが強い領域においてAIを導入する際は、透明性の実現は、導入を進める政府や機関の義務である」には強く賛同します。
一方で、人が審査していた場合には、さらに不平等な審査や、審査基準にバラツキがあったかもしれません。AI審査には審査基準の統一化という効果もあります。さらに透明性で審査基準の明確化もできるでしょう。継続的に改善することこそが大事です。どうしてもAIとの対立を記事にしたいという気持ちは理解します。
ただ、人間だって誤りはあるし、それこそ同じ人が同じ作業をしても疲れてパフォーマンスが変わったり、気分や体調に左右されることもあることはして置かなければなりません。
つい最近、あるところで同じ評価を人間とAIが下すとき、人はどちらを使おうとするかというデータを見せてもらいました。詳細は言えませんが、私の予想を大きく裏切るものだったということだけコメントしておきます。
