新着Pick
117Picks
Pick に失敗しました

選択しているユーザー
人権問題などが、クローズアップされる中、これは大事。
人気 Picker
人工知能というと仰々しいが、機械学習のモデルとは少し複雑な関数でそのパラメータがメチャクチャに膨大なもので、そのパラメータを決めるためにメチャクチャな量のデータが用意されて、そのデータに適合するものを見つけた(学習した)ものです。

そのため、学習のさせ方、データの品質、例外的なケース、継続的な品質の維持の仕方などで人間固有のバイアスや差別的な振る舞いも学習してしまいます。

また、ディープフェイクなどでも明らかなように、学習した関数を利用した生成器を作ることができるのもニューラルネットワークの使い方として一般的です。そのため、フェイクニュースや機会生成のスパム記事、盗作などこれまでは不可能であったがこれからは簡単にできてしまう嫌がらせや非倫理的な行為があります。

この点を議論し、企業を統制するにはコンピュータサイエンスとリベラルアーツの両方を理解した人材が必要になってきます。倫理や正義に対して、フェアに歴史的な議論ができるというだけでも稀有なのにさらに深い技術的理解も必要なので、人材獲得はますます難しくなりそうですね。
倫理的なAIはコンピュータサイエンスでも興味を持たれている分野のようで、トップ研究者による入門書

https://www.amazon.com/Ethical-Algorithm-Science-Socially-Design/dp/0190948205

がオススメ(少なくとも僕はとても面白かったです)
そもそも、ここでは、遙かに大きな問題が見過ごされている。
 コンビニという生活のインフラを日本に拡げたセブン&アイの鈴木敏文氏が、データ活用に関して重要な発言をしている。
 
 「ビッグデータという言葉がよく使われますよね。私は好きじゃないん
  ですよ。(中略) あれは過去に経験したことをまねするということです」(日経ビジネス、2020年2月3日号「データより変化を見よ」)

この鈴木氏の発言ほど、現在のデータの使い方の問題を的確に指摘した発言はない。
 実は、現在のデータの活用もAIの活用も、まさに「過去の経験をまねする」ことだけを行っているのである。いや、それしかできないのである。
 なぜか。それはデータは常に過去のものであり、未来のデータは存在しないからである。データでできることは、過去のデータでうまくいったことを繰り返すことである。これにより、過去のうまくいったことを繰り返し、うまくいかなかったことをやらないようにすることができる。
 それの何が問題なのか。これには原理的な問題がある。まず、新しいことをやらなくなることである。過去のうまくいったデータや経験を参考に行動することになるので、新しいことはやらなくなる。
 このために、変化に弱くなる。ビジネスも社会も国も常に変化の只中にある。しかも未来は予測できない。だからやってみないとわからないことだらけである。いかに未来に向けて行動を起こすかが最も重要なことなのに、データやAIに頼ると、過去のデータで経験したことの範囲で行動や判断するようになる。これはいわばバックミラーを見ながら運転しているようなものである。危険窮まりないことである。
 発想を変えたデータやAIの活用が必要だと、それは可能である。
モラルジレンマとか、正しい答えがない、人によって考え方が異なる、などの場合、どうやって審査するのでしょうか。(有料記事未読です)
AIと倫理の話はユネスコ、国連、IEEE、OECDを始めとして国際機関や学術的にも議論が盛んに行われているテーマなので、ソニーがどの基準や考え方を採用するのか興味があります。
水田巴さんがはってくれたリンク、アップルカード問題はとても勉強になります。人間の差別を無くすのとAIの差別をなくすのは、やり方がずいぶん異なるようです。
企業内での倫理面やプライバシー面での審査・ガイドライン化は進むでしょうね。
AI倫理の論文を書いたGoogle社員が首になった件はどうなったんだろう

業績