米国国防省はドローンを使った偵察ミッションを展開しているが (下の写真)、AIを導入しプロセスを自動化した。イスラム国やシリアでの偵察ミッションで、ドローンが撮影するビデオに写っている車両や人物などをAIが判別する。ここにGoogleのAI技術が使われていることが判明し、Google社員はプロジェクトからの撤退を求めている。企業の事業方針と社員の倫理観が衝突し、Googleは利益追求と社会責任のバランスが問われている。

出典: U.S. Navy

Google社員の抗議

このプロジェクトはProject Mavenと呼ばれ、ドローンを使ったAI偵察ミッションで、コンピュータビジョンがオブジェクトを判定する。GoogleがこのプロジェクトにAI技術を提供していることが明らかになり、社員は公開書簡をCEOであるSundar Pichai送り、Googleはこの契約を解約すべきと要求している (下の写真)。更に、Googleは軍事産業にどうかかわるのか、会社の指針を明らかにすることも求めている。この書簡に4000人のGoogle社員が署名し、12人のエンジニアはこれに抗議して会社を辞職した。

出典: Google

Googleの対応

これに対して、Googleのクラウド事業部責任者Diane Greeneは、Project Mavenへの技術供与について説明した。それによると、Googleが提供するAI技術は、ドローンを飛行させたり、兵器を起動するためには使われない。戦力を行使する戦闘行為に適用されるのではなく、あくまで通常のミッションで使われると説明。具体的には、GoogleはオープンソースのTensorFlow APIを提供し、ドローンで撮影したイメージを解析し、オブジェクトを把握するために使われていることを明らかにした。

自律兵器へ繋がる

Googleは提供した技術が自律兵器 (Autonomous Weapons) で使われることはなく、攻撃を伴わないミッションで使われることを強調した。自律兵器とは、AIが攻撃目標を把握し、AIがトリガーを起動する兵器を指す。しかし、今は通常のミッションで使われていても、この技術を応用すると自律兵器を構成できるため、Google社員はこの技術の供与に反対している。

オープンソース

GoogleはTensorFlowをオープンソースとして公開しており、だれでも自由に使うことができる。かりにGoogleが契約を解約しても、オープンソースであるため、Project MavenはTensorFlowを使い続けることができる。市場には数多くのAIオープンソースが公開されており、これらが軍事目的で使われている可能性は高い。AIオープンソースを如何に管理すべきか、本質的な問題を含んでいる。Googleとしては、AIを軍事目的で使うことに関し、会社として指針を設定すると述べるに留まっている。

Project Mavenの位置づけ

Project Mavenは「Algorithmic Warfare Cross-Functional Team」と呼ばれる部門がプロジェクトを管轄しシステムを開発した。この部門は国防省内の組織を跨り、AIとMachine Learningを導入することを使命とし、Project Mavenがその最初のプロジェクトとなった。

偵察活動を自動化

国防省はイスラム国が支配している地域とシリアでドローンを飛行させ、偵察活動を展開している。ドローンに搭載されたカメラで地上を撮影し、アナリストがビデオや写真をみて、そこに写っているオブジェクトの種類を判定してきた。イメージは大量で、このマニュアル作業をAIで自動化することを目的にプロジェクトが始まった。アルゴリズムはオブジェクトを38のクラス(車両、人物、行動など) に特定し、問題と思われる情報をアナリストが解析する。このミッションでは戦略ドローン「ScanEagle」(先頭の写真) と戦術ドローン「MQ-1C Gray Eagle」及び「MQ-9 Reaper」が使われイスラム国の行動を監視している (下の写真、空軍諜報部門)。

出典: US Air Force

AmazonやMicrosoftも

国防省にAI技術を供与しているのはGoogleだけでなく、AmazonやMicrosoftもクラウドサービスでイメージ解析技術などを提供している。これらの企業ではAIが軍事目的で使われることに対して、反対運動は起こっていない。更に、データサイエンスでトップを走るPalantirは軍需企業として国防省に情報サービスを提供し続けている。Googleの場合は社員が理想的な世界を追いすぎるのではとの意見も聞かれる。

AIの軍事転用問題が次の焦点

一方、世界で最先端のAI技術を持つGoogleがその技術を軍事システムに提供したことに対し、市場からも反対の声が上がっている。大学教授を中心とするAI研究者1000人は、Alphabet CEOであるLarry Pageらに対して、Project Mavenから離脱し、今後はAIを軍事目的で使わないことを求めている。同時に、AI管理のルールが存在しない問題も指摘し、AI兵器開発規制を世界規模で進める必要性を説いている。Facebookが個人データ流出問題で対策を求められているように、AIの軍事転用問題が次の焦点になる勢いである。