人工知能に中立はない? AIによる美人コンテスト炎上騒動が浮き彫りにしたもの
コメント
注目のコメント
AI美人コンテストの顛末について丁寧にまとめられた記事。
何が美しいかというのは国単位・文化単位・人単位で異なってくるもので、教師データとして評価者を多様にしないと今回のように偏りのある結果が出ることは目に見えています。
じゃあ人口比率を加味して各国からサンプリングしたら良いかと言うと、そうなったときに人口の多い国やタイプが有利になってしまうのことになるので、難しいところ。
そもそもAIが開催するものに限らず、美の世界コンテスト自体に無理を感じている人は少なくないのではないでしょうか。
企業が特定の商品のアンバサダーを決めるためのコンテストを開いて独断で決めるかたちの方が、むしろ納得感はあったりします。この辺は起用した企業にその責任が帰属するからですかね。
とにかく、AIを活用するにしても企画部分を練るのが大切だということを一連の騒動は改めて教えてくれました。
一点、「コンテストは色々な顔データを集めるために開いた」というのはさすがに嘘だろうと思います。TwitterのAPIとかから引っ張ったら6,000人の顔データを集めるのに数分もかかりません。AIで美人コンテストをやったら、教師データが白人に偏ってしまったために、人種差別みたいな状況になってしまったという話。
この記事しか読んでないので詳細わからないですが、どうやら本人たちに人種差別の意図はなかったようなんですよね。しかもこの件はAIデータを集めるためにAIコンテストをやるという、手段と目的が一瞬逆転している案件なんで、よりややこしい。
意図がなくても教師データに偏向がでてしまうという面白い事例でした。とても面白い取り組み
フェイスブックの構想ネタに似たようなことをひとではなくAIで区別させる
そもそも、コンピュータに
美
とは何か?
本質的な美という概念がないなら、
ただの画像を深層学習させただけでは無理だろう
そもそも、与えたデータが白人が多いといってる時点で、
美とは何かをこの開発者はよく理解してないのだろう
人は、
美しいものをみると自然と美しさを感じる
それは、人だけに限らず
お花など大自然の中にそれはたくさんあるし、
人工物の中にもある
それを理解させずして、
人の美しさを判断させようとしてるのが滑稽に思う
人が美しいのではなく、
美しさの中に人がいると考えた方がいいだろう
でなければ、客観的な美しさの比較なんてできないのでは
コンピュータにとって、一番難しいとされる
調和やバランスを判断させるのだから、
広く美に関するありとあらゆることを
コンピュータへ学習させて、
結果的に人の美も理解できるようになるのではないか?
美しい女性のデータを学習させてる時点で、
そのデータ自体に人間のバイアスがかかる
つまり、AIはバイアスのかかった素材をもとに学習をさせられる
結果、AIはバイアスのかかった判断をする
至極当たり前のことだろう
まぁ、会社としては膨大な顔の画像が手に入れられたので、
当初の目的は達成したのだから、ビジネス的には大成功かな⁈