Picks
40フォロー
156フォロワー
Amazonもハマった、「AIを使うとき」の落とし穴
ITmedia ビジネスオンライン
Yamamoto Takayukiヤフー株式会社 (MBA)
なんか違う気がする amazonがハマった事例として『応募者から寄せられる履歴書を審査するAIを使っていた。ところがこのAIが、女性の応募者を不当に低く評価していた、中略、なぜそのようなことが起きたのか、それはAIにモデルを構築させるために、過去の社員や応募に関するデータを与えていたからだった。米国でも、IT技術者はまだまだ男性の方が多い。そのためAIは、過去のデータから「男性を採用すべき」というモデルを作ってしまったのだ。』 との事だが、ハマった理由として『応募時のデータを使った』事と、『IT技術者は男性の方が多い』事としているが、そうではないと思う。 amazonの人事査定が女性を低く評価していた事をAIが正しく学習したにすぎない。 例えば、社員の人事査定データが、IT技術者が男性100人、女性20人だったとする。人数は男性が多い。次に正解データとして単純化して、入社後数年後の人事査定データをもとに、優秀か、がそうじゃなかを1か0かで与えるとする。2:8の法則で男性は100人の内20人が優秀だったとする。女性は20人の内4人が優秀だったとする。優秀な比率は同じと仮定する。これをAI(ディープラーニングなど)で学習するとどうなるか。男性は100のデータの内、20が優秀なので、性別が男性の優秀な確率は20%と学習する。次に女性は20のデータの内4が優秀なので、性別が女性の優秀な確率は20%と学習する。男女共、性別による優秀への影響の確率は同じである。するとAI(ディープラーニング)は、「性別は優秀かどうかには影響しない」と学習する。AIの仕組み上はこうなるはずである。 すなわち、本当は何が原因だったかと言うと、社内では男性のIT技術者の方が、女性のIT技術者よりも、比率的に高く優秀と人事査定されていた、という事実だったという事である。AIの使い方が間違えていたのではなく、人事査定の結果がそうだっただけである。記事では『AIが不当に女性を低く評価した』と書いてあるが、そうではない。過去の社内の人事査定の結果がそうだっただけである。 AIは意志を持たない。よって人財採用において、男女を一定の比率、もしくは応募者の比率で採用したいのであれば(ダイバーシティーの観点などから)、AIの出した結果を参考に、人間の意志を加味して判断を下す必要がある。
426Picks
「倫理的なAI」の重要性高まる--開発者にも求められる変化
ZDNet Japan
Yamamoto Takayukiヤフー株式会社 (MBA)
▪️要約 『最近では、社会的影響が大きい意思決定の判断材料にAIが使われるようになっている。 AIシステムのトレーニングに使われるデータセットには、しばしば人種や性別、イデオロギーのバイアスが含まれており、不公平な、あるいは差別的な意思決定につながる可能性があることが知られるようになってきた。 世界中の政府が、AIを使ったシステムが引き起こす望ましくない事態の影響を抑えるために、開発者に対して人権を尊重するアルゴリズムを作るように伝え、それを手助けするための法案やガイドライン、フレームワークに取り組んでいる。 プログラムがユーザーに害を及ぼさないようにする責任は、開発チームが負うことになったということだ。 「新しいAIに関わっている人たちについて考えてみてほしい。彼らは技術屋であり、プログラマーだ。その多くは、哲学についての知識を持っていない」と述べている。 IT業界は新たな時代に入っていくように見え始めている。計算機工学の学位を取るために、哲学の教科書が必要になる時代に』 ▪️意見 ここで言われているAIはディープラーニングの事だが、ディープラーニングはそもそも数式でいう関数でしかない。入力に対して出力が決まる仕組み。この入力と出力のペアを大量に学習させる。よって、AIが出す答えというのは、入力データに対する統計的に最も正しい確率の高い答えである。入力データは過去の実績であるので、そこに偏見や人種差別があれば、それが答えとして出でくる。すなわち、あくまで最も正しい過去の実績でしかない。 人権尊重、機会の平等などの理念は、過去の実績ではなく、むしろ過去にうまくいかなかった事に対して、将来はこうあるべきという人間の「意志」である。意志は過去の実績データには含まれていない。だから、AIはこの意志を加味しないで結果を出す。AIが得意なのは過去の事例に基づいて、最も成功する確率の高い意思決定の為の仮説を出力する事である。そこに意志はない。意志は人間がその出力に加える必要がある。これを理解した上でAIをうまく使えば、AIは最高の意思決定サポートツールになると思う。
41Picks
NORMAL