グーグル、AIの兵器利用を禁止 CEOが原則発表
コメント
選択しているユーザー
ついに英断が！！
企業が原則を発表するのは面白い。国という巨大コミュニティ・ナショナリズムが薄まりつつあるのは感じている一方で中国をはじめとした他の国がどう出るかが不安ではあるなぁ。
注目のコメント
Googleが協力していたとされる国防総省のプロジェクトはMavenというコードネームで呼ばれる画像解析のAI化プロジェクトです。
アメリカは世界各地にドローンを飛ばし、大量の画像データを収集していますが、それをAIを使って自動で映像を分析し、人間が一つ一つチェックするより早く、リアルタイムで敵国の軍事力やテロリストの動向を掴もうとしようとするものだそうです。
Googleのエンジニアの懸念は、この技術の行き着く先が、最終的に自動的に敵味方を識別して、攻撃ターゲットを選定する自律型致死性兵器システム（LAWS）の開発に繋がるかもしれない、ということだろうと思います。
正直単なる殺人ロボットの研究開発なら倫理判断もしやすいのですが、ドローン映像の自動解析分野は中国やロシアを始め、どの国も血眼になって研究している分野で、その是非は非常に判断の難しいところです。
AIの軍事利用については、このようにとても範囲が広いので、こうした企業の判断だけでなく、国際的に明確なガイドラインを設けないと、無制限に拡大する危険性が否定できない状態になっていると思います。素晴らしい判断だと思う。ただ中国が官民一体で富国強兵に邁進してるのを考えると複雑な思いもよぎる… 特にAIは鉄砲やミサイル以上に軍事バランスを変えてしまう可能性があるので >グーグル、AIの兵器利用を禁止 CEOが原則発表
前日に報道されていた通り公式発表、ただし事の重大さを鑑みてか社長自らの名前で。それがこちら。
https://www.blog.google/topics/ai/ai-principles/
またそれまでの経緯はこちら。
https://newspicks.com/news/3066121?ref=user_143212
今回の直接の引き金となった、武器使用に関する言及は
Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people.
意訳すると
人を傷つけるまたはそれを容易にすることを主目的または実際に行うような、武器たはその他の技術
について
we will not design or deploy
我々はAIを設計したり使用したりしない
との事。それ以外にも7つの指針が書いてある。
これはいわば憲法のようなもの、実際は運用において個別の判断が生じるでしょう。
例えば、自衛目的なら「人を傷つけるまたはそれを容易にすることを主目的または実際に行うような、武器」には該当しないのではないか、という主張が理屈の上では成り立つわけです。まさにどこかの国の憲法解釈で散々議論されてきたような話です。
これはGoogle一社の問題に収まらず、AIの進展とともに全人類的な議論が必要なイシューであって、本来であればG７だったり国連だったりで議論されるべき内容でもあります。その上で、そのリーディングカンパニーの一角たる同社が先頭を切った意義は大きいと思いますし、スンダルピチャイには十分にその自覚があったうえでの発表でしょう。
