自律兵器の規制から考えるAI時代の戦争と人間のかかわり

議論の隙間が国益を生む

 

LAWSの議論では、2014年の交渉開始当初、市民社会が「殺人ロボット」の完全禁止を求め、一部の有志国も追随しようとした。LAWSを、機械の判断で無差別に人間を殺傷する殺人ロボット兵器と形容したキャンペーンの効果は高く、国際社会には、AIの発展によって、SF小説やハリウッド映画で描かれる世界が近未来に出現するとの懸念が生まれた。前述したように、AI研究者などの署名活動などもあり、市民社会集団側にはCCWでの議論の停滞があれば、新規の禁止条約へと動き出すべきとの主張も見られたのである。

 

しかし、一部の有志国がCCWの枠外で、自らに規制を課す条約を成立させることは、LAWSに関心を持つ国にとって歓迎すべき動きだった。米国は、2016年の国防科学諮問委員会(DSB)の報告書で、AI搭載兵器は国家関係に「革命的」な変化をもたらすと評している。このように、大きな可能性を持つ兵器を保有することを、自ら放棄する国の存在は、彼らが軍事的に劣勢に落ちる可能性を自ら受け入れるということを意味するため、戦略的には歓迎することであった。産業競争力の面でも、独立した禁止条約を推進する国は、AIを含め、LAWSを可能にする技術の開発への制約を課すことにもつながる。つまり、そのような行動は、軍事的にも、産業的にも、通常の国際関係では自殺行為に近い。

 

このため、米国や中国など、LAWSの開発に関心を持つ国は、全面禁止を主張する国がCCWの枠組みから飛び出すことを期待した。そうすることで、CCWでの交渉が「落ち着く」ことが予想できたのである。しかし、2014年以降のCCWの議論の中で、その動きが実現することはなかった。当初、CCWから抜け出して、対人地雷の時のように個別の条約を求めていた市民社会集団も含め、CCW参加国は現実的な路線へと回帰して行った。これはつまり、議論の停滞を続けるか、それともCCW参加国が受け入れ可能な現実的な措置を考案することに行き着くことになる。

 

結果的に、2017年のGGEで「定義論争」を避けたことで、実は多くの国の利益となる「議論の停滞」が生まれた。同時に、一元的な禁止論が交渉の場を支配することなく、現実的な方策が提案され、その議論を深めていくことが可能になったのである。この結果に功罪はあるのは事実である。たとえば、既にAI搭載自律兵器の開発に踏み出し、プーチン大統領がAIの先進国と自認するロシアにとって、国際社会における交渉の停滞と議論の錯綜こそが国益となる。中国も2017年に新世代AI開発戦略を公表し、AI先進国になることを表明している。このため、ロシアと同様、議論の停滞は国益に通じる。

 

これに対し、自動化と自律化の定義を明確にし、自動兵器は開発するが自律兵器の開発は行わないと宣言するフランス、LAWS開発の具体的な計画がないと主張するドイツや日本などは、民生分野でのAIなどの技術開発を急いでいる。これら国にとって、議論の停滞により、将来の軍事転用(スピンオン)の可能性を追求する上で、禁止ではなく、規制の内容を争点として、開発が先行する国にタガをはめることを目指す余地が生まれた。

 

 

人間と戦争の関わりを変えるLAWS

 

LAWSは、従来存在した兵器とは完全に異なるものと見られがちだが、現実には兵器の自動化の先に展望できるものである。また、AIが搭載される兵器の危険が指摘されるが、現時点のAIは兵器使用に耐えるだけの信頼性はなく、近い将来に革命的な進展が期待できるものでもない。AIの最大の特徴である機械学習(マシン・ラーニング)が、攻撃の段階で有効に機能する局面は限定的であり、より多くの利得は、情報収集や分析において発揮される。ただし、攻撃の判断に至るまでの軍事的決定のプロセス(一般的に、Kill Chainと呼ばれる)が、それ以前の情報や判断に左右されることを考えると、AIが引き起こす問題がないとは言えない。

 

2017年のGGEでも、Kill Chainの各局面におけるAIの使用の制限が提案され、兵器の製造段階から使用に至るまでのプロセスで、1949年ジュネーヴ条約の1977年追加議定書の第36条(「新たな兵器」)の規範が順守されるかどうか査察を行うべきとの意見が出されている。いわゆる、「第36条運動」は、当初は武器製造企業を抱える各国政府に対し、企業に対する監督体制の強化を求めるものであったが、ドイツやフランスは、これを利用してLAWSの査察の手段として位置づけようとしている。

 

米国などでは、主要兵器から各兵士が戦場で使用する携行機器(たとえば、アンドロイドをベースにした携帯キットなど)まで、それぞれをネットワークに接続し、情報共有を高めようとしている。災害救援の現場では、リアルタイムの情報としてSNSが利用されることもあり、現場の人員にとって有用な情報がネットワーク上に存在する。さらに、ドローンが、「戦場の霧」を晴らす効果があると指摘されるが、それら手段を通じて得た情報を兵士が共有して行動すると、戦術的効果は極めて効率的になる。

 

司令官の判断の基準になる情報が、AI搭載機器に依存するようなことになれば、Kill Chainの中で攻撃判断を人間が司る(最終的に攻撃するかどうか)ことが保証されていたとしても、自衛権に基づく攻撃を行う際に国際人道法の適応基準の諸原則(区別原則、非無差別原則、比例原則、予防原則)の順守が図られると主張することは難しくなる。

 

つまり、AI搭載機器をどこかに組み込んだ場合、Kill Chainの全ての段階でLAWS固有の問題が発生するため、兵器の使用に際して、人間の管理が介在する必要があるのか(human in the loop)、判断を下すことが担保されていればいいのか(human on the loop)、という議論をする必要が生まれる。ただし、戦場の雑然とした混沌状況の下で、人間と機械の関係を整然と切り分けるのは困難であり、機械と機械のコミュニケーションに対して人間がどのように関与すべきかを決めることは不可能である。AIを搭載したLAWSを活用した戦場では、個別のプラットフォームはネットワークの中のノッドに過ぎず、そこでの人間の介在は、不可避的に小さくなる。

 

そのような状況の下では、国際人権法や人道法の順守を行うためには、そもそもAIのアルゴリズムの設定を厳密に行う必要があるとの主張がある。これは、当然の主張のように見える。しかし、AIの最大の利点が機械学習であり、一定のトライ・アンド・エラーの存在を前提とするものであることを想起し、そのエラーが戦場においてどのような意味を持つか考察すると、学習を「終えた」AI搭載兵器以外は、許容されないようにも感じる。この最大の問題は、兵器運用開始後に学習することを宿命づけられたものに、運用前に学習を終えることを前提とした兵器に求められる規範を適用するのが適切かどうか、ということになる。また、アルゴリズムを国際的に標準化することは、各国の戦術に直接関係するため、どの国もためらうだろう。

 

2017年のGGEでは、いくつかの解決方法が提示された。それは、禁止条約のような実効性の薄い象徴的な措置から、CCWの第4議定書(失明をもたらすレーザー兵器に関する議定書)と同じ行動規範を確認する議定書の採択、さらにはその他の実効的措置などである。その他の措置には、核軍備管理軍縮におけるIAEAのような、強制的な査察権限を持ち、技術発展とその軍事利用を監視する機関の設置が必要との意見も含まれる。軍備管理軍縮における、査察機関の設置は、措置の透明性を高める上で必要不可欠である。

 

各国がLAWSの開発に向けて動き出しているときに、規制がないまま放置することも、厳格な規制を設けることも、双方ともに最終的には軍備管理軍縮措置としての実効性を損なうことになる。したがって、LAWSをめぐる問題の焦点は、兵器使用の際の使用者の責任の範囲、そして兵器開発の際の開発者等の責任の果たし方、そして開発及び使用の際の査察措置の在り方、ということになる。

 

従来の国際人道法や人権法では、使用者が規範やルールを順守する条件が議論されてきた。LAWSの議論においても、たとえ兵器の完全自律化が実現しても、その他の通常兵器と同様に、使用者が法的責任を負うことに変更はないことに合意は存在する。しかし、LAWSに含まれるプログラムの複雑さゆえに、前述のジュネーヴ諸条約第一追加議定書第36条の規定を兵器の開発者が順守しているかどうかを、兵器開発の段階で検証プロセス(weapon review process)を設け、それを国際的に公開することが提案されている。そして、そこに査察制度を導入し、検証措置を設けることで、各国のコンプライアンスを確認する、というプロセスの設置も同時に提案されている。

 

これらの措置が、今後どのように具体化していくか、注目する必要がある。技術開発は、人間と戦争の関係を急速に変えつつある。しかし、国際社会の対応は遅く、不完全である。そのような制約の下で、CCWがこの問題に継続的に取り組んでいるのは評価すべきであり、そこでの議論の進展に期待するべきなのであろう。

 

知のネットワーク – S Y N O D O S –

 

 

シノドスを応援してくれませんか?

 

誰でも自由にアクセスできる本当に価値ある記事を、シノドスは誠実に作成していきます。そうしたシノドスの活動を持続的なものとするために、ぜひファンクラブ「SYNODOS SOCIAL」のパトロンになってください。⇒ https://camp-fire.jp/projects/view/14015

 

無題

 

・人文・社会科学から自然科学、カルチャーまで、各界の気鋭にじっくりインタビュー
・報道等で耳にする気になるテーマをQ&A形式でやさしく解説
・研究者・専門家たちが提案する「こうすれば●●は今よりもっとよくなるはず!」

・人類の英知を伝える「知の巨人」たち
・初学者のための「学びなおしの5冊」

……etc.  

https://synodos.jp/a-synodos

1 2
シノドス国際社会動向研究所

vol.242+243 特集:外の世界を覗いてみる

・大野哲也氏インタビュー「人はなぜ旅にでるのか――バッグパッカーたちの複雑な軌跡」

・【調査報道Q&A】澤康臣(解説)「社会の不正を人々に伝える――調査報道はなぜ重要なのか」

・畑山敏夫「フランスの「ポピュリズム現象」を理解するために――マリーヌ・ルペンの成功を解読する」

・【今月のポジだし!】遠藤まめた「こうすれば「トランスアライ」はもっと良くなる」

・齋藤直子(絵)×岸政彦(文)「「Yeah! めっちゃ平日」第十三回」