【実録】グーグルに異変。「AIの軍事利用」をめぐる内紛の真相
コメント
注目のコメント
とてもとても難しく、かつ色々なものを象徴する出来事だと思います。
シリコンバレーがこのところ抱える問題のひとつに、「思想の極端化、単一化」という事が昨今よく言及されるようになりました。
一例が同じくGoogleを舞台として起きた、女性差別的言動をしたGoogle社員を即解雇した顛末は記憶に新しい。中身は極めて論理的、実証的なデータに基づくものだった、せめて再教育など施すべきだった等批判が渦巻きました。
その時にも使われた、シリコンバレーを象徴する英語が、「エコーチェンバー」。拡声室。同じ意見のものだけが集まると、その意見が拡声し、その他の意見が掻き消されるという意味。
ではその同じ意見とは何か?
ずばりポリティカルコレクトネス。正しくないと全部ダメ、平等じゃないヤツは論外、好き嫌いじゃなく正しいかどうか。これが究極まで突き詰められているのが今のシリコンバレー。
ちなみにこれにホトホト嫌気してシリコンバレーからお引越しなさった御仁がかのピーターティール。
本件に話を戻すと、たしかにAIの軍事利用は気持ちが良いものではない。また制御不能に陥るリスクもそこはかとなく怖い。
しかしアメリカ大統領選にまで裏で介入するロシアや大国中国はまず間違いなくやるだろうし北朝鮮もあるなか、そのような青臭いナイーブな理想論ばかりで国を守れるのか、という議論も当然ある。が、そんな議論は4000人の理想論者の、エコーチェンバーによって拡声された世論に掻き消され、居辛さを感じるのがGoogleでありシリコンバレーであると。
無論、頭の良いグーグラーの事、そんな議論百も承知でそれでも理想を言っているのだ、という事でしょうが、ここはもう少し時間をかけた冷静な分析が必要だろうと思います。内紛にまで発展したグーグルの米国防総省のProject Mavenをめぐる契約。
今回の受注は900万ドルと、グーグルの事業規模からすれば小さなものですが、かつて"Don't be evil"という社是を掲げていたことから社内からの猛反発に発展。
今年以降の契約は結ばないことで、グーグル上層部は問題に幕引きを図ろうとしています。
人類に牙を向きかねない技術のため、故スティーブン・ホーキングやイーロン・マスクがAIに警鐘を鳴らしてきた一方で、AIは決して暴走しないと言い切る勢力の声の方が現状、目立っているように感じます。
グーグルが受注しなければ他の企業がおそらく受注・開発するとみられる中、倫理とビジネスをどう両立していくか、企業にとって大きな命題でしょう。これはめちゃくちゃ本質的な議論。GoogleがDeep Mindを買収したときのDeep Mind側の要求のひとつが「倫理委員会」の設置だったという話を強く思い出しますが、「Don't be Evil」を掲げていたGoogleの価値規範が問われる。
軍事におけるAI利用は止められないのだろうし、これによって救われる命があったりして、闇の部分だけでなく光の部分もあるのでしょうが、究極Googleがすべてコントロールできるわけではない。コントロールできないものに関しての判断(というか決断)は美意識や倫理観が問われる。
イーロンマスクも脅威と話してきた人工知能の技術。Googleがどういう思想を持ち、どういう検討をして、どういう結論を出すか。これから数週間後に出されるというガイドラインがとても重要ですね。