人間の「無意識の偏見」が AIに与える負の影響とは何か
コメント
注目のコメント
フェイフェイ・リー氏の顔写真が出ていて、びっくり。
この方はImagenetプロジェクトを指揮した人。業界的には超有名人です。
深層学習がここまで爆発的に進化したのは
・アルゴリズム
・計算資源
・膨大な教師データ
がいいタイミングで揃ったことだと思いますが、その教師データを作った人。先日もAIの判定する美人コンテストが人種主義論争で炎上していましたね。
何かを評価するとなると、基本的に主観の集合体となるため、バイアスを締め出すのはすごく難しいことのように感じます。
そもそもAIを何に使って何に使わないかという、企画時点の倫理観が必要になってくるのでしょうね。ドイツで委員会が「AIのモラル」に関して指針を出していましたね。
例えば人間では車の事故で人をひくことが避けられない時、老人よりも子供を助ける方を選ぶ、ということが分かっています。
人間の行動を元にAIが学習するとこういった「不平等な判断」が入ることになり、それは国民の不満を高めることになるから好ましくなく、規制されなければならない、と。
また人間の場合には実際は目の前に歩行者がいるとき、急なハンドル操作で歩道に乗り上げより多くの犠牲者を出す、ということもあり、その場合は「そのまま真っ直ぐ目の前の歩行者を犠牲にする」という方が被害が少なく、ロジカルな判断となる可能性があります。
果たしてAIがこのような判断をするのは許されることなのか。