【伊藤穰一】オープンAIが世界を支配する
コメント
注目のコメント
昨日は、AIこそ倫理が大事というお話でしたが、本日は、倫理をAIから学ぶかもしれない時代が来るという発想に驚きました。しかもそれに至るまでのメディアラボの研究が凄いですね。示唆に富み過ぎです！
Joiさんが仰る「未来は、人間もコンピュータも、欲望が枯れていくから、欲望自体をどう生成するかという仕組みが必要になる。」が正だとした時、「コンパッション（同情心）とかアートとか学びの喜びとか、今よりも少し美しい方向に人々の欲望が流れていく」ことを前提にした倫理観でAIが開発されていけば、確かに人間が変わっていく気がしました。
しかし、同時に、人間を変えてしまうかもしれないAIに脅威も感じました。そのために、AIの倫理観醸成はオープンでなければならないんだと思いました。人工知能の導きだす答えが人間を上回るものだとして、その導き出す理屈や道理(プロセス)までもが人間の理解を超えるものになってしまったら、その答えが正しいのか正しくないのか人間には判断がつかない、という事になってしまう。
そうなった時、人は人工知能の導き出した答えを放棄する事も出来ます。
そこが人工知能の限界じゃないですか。
人が自ら思考し判断する事を放棄するなら別ですが。
[追記]
AIがどこまで発達してもその計算処理結果を用いるのは誰か人の都合によるもの。AIを前にして人や組織、社会が
思考停止に陥ることの方が怖いかもしれませんね。とても示唆に富む記事でコメントしたいことも山程あるのですが端的に二点ほど。
企業で人工知能を活用した場合の意思決定の優先順位は、その企業の経営理念との合致度合いの最も高いものが最優先になると思います。
あと、オープンソース化の話ですが是非ともお願いしたいです。欲を言えば、ライセンスをAGPLにして、ソースコードの積極的な開示が促進されることを期待します。
