今日のオリジナル番組


詳細を確認
タブーに切り込め!ここがおかしい「日本の保険」
本日配信
12Picks
Pick に失敗しました

人気 Picker
これまで公式には「まだ存在していない兵器」として扱われていたため、ルール作りが進んでいなかった「自律型致死兵器システム(Lethal Autonomous Weapons Systems: LAWS)」について、今回、国連の報告書に明記されることになりました。
今後、法的拘束力のある国際的なルール作りを求める声が、さらに高まると予想されます。

これまでも無人機による攻撃はありましたが、操縦員による遠隔操作で、対象設定などにヒトが介在していました(Human in the loop)。
今回は、AIによる識別機能により、操縦者の指令なしで、目標を認識・対象設定・追尾・攻撃したとされています。記事中で岩本誠吾教授がおっしゃる通り、技術的には比較的簡易な構造であるものの「世界初のケースで一線を越えたといえる」。

特定通常兵器使用禁止制限条約(Convention on Certain Conventional Weapons:CCW)での議論など、これまでの経緯については、外務省サイトなどを参照ください。
https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html

なお、(LAWS以外の)AIと安全保障の全般については、人工知能学会倫理委員会が2018年に企画セッション「AIに関わる安全保障技術を巡る世界の潮流」を実施しており、その記録が参考になると思います。
http://ai-elsi.org/archives/725
殺人ロボット兵器という名称がどこから来ているか不明ですが、LAWSは「AIを持ち、人間の意思を介在させずに敵を自動的に攻撃するする」ロボット兵器ではありません。

国によって主張する定義が異なり、また「人間の関与がない」ということが何を指すのか(目標捕捉から実際に攻撃を行う間に人間が操作を行うという段階がなければ駄目なのか、人間が遠隔で監視できている状態ならいいのか、等)についても議論が多くあります。
AIを備え、自動的に目標を攻撃する兵器、あるいはAIで自律的に行動するロボットは、既に米中イスラエルなど有していますが、問題はAIの汎用性や人間の関与が求められる程度、攻撃目標がヒトかモノかで扱いを分けられるのか、などといった点かと思われます。

さらに、少子化と省人化が進む中で、自衛隊の犠牲を出す恐れがあっても人間が敵を攻撃しに向かうべきなのか、人間は機械より人道的・合理的な判断ができるのか、というような難しい問題もはらんでいます。

現在はLAWSについて外務省HPにあるように
「人間の関与なしに自律的に攻撃目標を設定することができ、致死性を有する「完全自律型兵器」を指すと言われているものの、定義は定まっていません。」
という状況のはずなので、そこだけ強調しておきます。
https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html

本件は、河野大臣の関心の高い領域ですね。
3月にでた国連パネルの548ページの報告書のただ1箇所に、STM社のKargu-2がLAWSとして言及され、自律的に攻撃するようプログラムされていたと書かれている(被害については言及なし)だけ。どんな根拠があるのかも、何があったのかも書かれていない。

https://undocs.org/Home/Mobile?FinalSymbol=S%2F2021%2F229&Language=E&DeviceType=Tablet
STM Kargu-2
https://youtu.be/Oqv9yaPLhEk

それを、5月にニューサイエンティストが「世界初の自律攻撃か?」というタイトルで書いたために、それをNYTなど米一般紙が「AI兵器」「ロボット兵器」だのと煽り記事を書き、それが今になって日本に広がってきたものです。

https://www.newscientist.com/article/2278852-drones-may-have-attacked-humans-fully-autonomously-for-the-first-time/

Fukatsuさんご指摘の通りLAWSはCCWのGGE(専門家会合)で6年前から議論されていますが、定義が曖昧で、どこまで人間の関与がなければそう言えるのかは微妙なラインです。言葉通りであれば、地雷もLAWSに入ってしまいますし、画像認識を用いてターゲットを識別する誘導ドローンは、一般的にLAWSとみなされません。

Neil Davisonによれば、「人間の関与(human control)なしに 探査や探知、特定、追尾又は選定し、ターゲットに対し自律的に武力を行使し、ターゲッ トを無力化、損耗又は破壊する全ての兵器システム」ですが、これがまあしっくり来ますね。

専門家の間でも、国連の報告書で指摘されているリビアで使われたドローンに関して、LAWSとは言えなかったのではないかという評価が多いです。