中国政府はAI First Countryの政策を掲げ、2030年までにAIで世界をリードするロードマップを公表している。いま、監視カメラにAIを適用し、市民の行動を監視するプラットフォームの開発を進めている。このプロジェクトは「Sharp Eyes」と呼ばれ、国内に設置されている2000万台の監視カメラの映像を集約し、これをAIで解析する。一般市民が対象となり、プライバシー問題が懸念されている。同時に、膨大な量の教育データが集まり、中国が顔認識技術で世界をリードする。

Sharp Eyesとは

Sharp Eyesは国全体の監視システムで、政府の監視カメラと民間の監視カメラを使い、撮影される映像を統合しAIで解析する。政府の監視カメラは、道路、ショッピングモール、駅、空港などに設置されている (上の写真、人の動きを追跡する事例)。民間の監視カメラは、アパートやオフィスビルなどに設置されているが、この映像も監視プラットフォームに統合される。

治安維持と市民監視

集約した大量のビデオ映像をAIや顔認識技術で解析し、多くの情報を抽出する。例えば、容疑者を追跡し、不審な挙動を見つけ出すなど、治安維持に活用される。犯罪者だけでなく、一般市民も対象となる。個人の行動を把握し、誰と接触したかを勘案し、個人の信用度 (Credit Score) を算出する。個人の信用度とは、中国政府や関係機関が特定個人を信用できるかどうかの指標で、スコアが低いと、旅行のためのチケットを購入できないなど、日常生活の行動が制限される。

AIベンチャー企業

Sharp Eyesのシステムを支えているのが中国のAIベンチャー企業である。SenseTimeは北京に拠点を置き、Deep Learningの手法で顔認識やオブジェクト認識技術を開発している。SenseTimeはAlibabaなどから累計で10億ドルの出資を受け、企業価値は30億ドルと言われ、世界最大規模のベンチャー企業となっている。

世界トップの顔認識技術

SenseTimeの顔認識技術は世界最高レベルと評価されている。この技術は「SenseFace」と呼ばれ、監視カメラの映像をDeep Learningの手法で解析する。SenseFaceはビデオに写っている数多くの人物の中から犯罪者を特定する機能を持っている。人通りの多い市街地や空港や駅などに設置された監視カメラの映像を読み込み、写っている顔を犯罪者データベースと照合し、容疑者を特定する。

犯罪者を特定する

例えば、SenseFaceはエスカレーターに乗っている人物の顔を把握し、それらを犯罪者データベースに登録されている顔と比較する (下の写真)。ある人物 (中央側) が、データベースに登録されている人物 (中央右側) と同一人物である可能性が91.0%などと判定する。この情報は近辺の警察官に送信され、容疑者のもとに駆け付ける手順となる。これはコンセプトデモであるが、実際にシステムを構築する際は、映像をクラウドに送信し判定結果を受け取るまでの遅延時間を如何に短縮するかがカギになる。SenseFaceは同時に1000台の監視カメラの映像を解析する能力があるとしている。

歩行者やクルマの流れを監視

交差点では歩行者やクルマの流れを監視する。この技術は「SenseVideo」と呼ばれ、Deep Learningを使ったビデオ解析システムで、映像の中の歩行者、自動車、その他の乗り物を検知し、その属性を判定する。込み合う交差点に設置されたカメラの映像を解析し、オブジェクトを特定し、その属性を判定する (下の写真)。人物では性別、年齢、服装など、10項目にわたり判定する。クルマではナンバープレート、車種、色などを判定する。SenseVideoは検索機能もあり、犯罪が発生すると録画ビデオで不審者を探し出す。

SenseTimeの実力

SenseTimeが開発している顔認識技術は世界のトップレベルである。顔を認識するAI技法は数多く開発されているが、SenseTimeの最新技法は「DeepID3」と呼ばれ、Chinese University of Hong Kong (香港中文大学) などと共同で開発した。基礎技術は論文「DeepID3: Face Recognition with Very Deep Neural Networks」で公開されている。

DeepID３とは

DeepID3は最新のConvolutional Neural Networksを実装したシステムで、顔から数多くの特徴量を抽出し、顔認識プロセスを実行する。DeepID3は、顔認証 (Verification、1:1比較、二つの顔が同じかどうかの判定) と顔認識 (Identification、1:N比較、データベースで同一の顔を探す処理) を一つのアルゴリズムで実現している。DeepID3の顔認証精度は99.53%で (下の写真)、人間の能力 (97.53%) を大きく上回る。

中国政府の戦略

中国政府はSharp Eyesを治安維持のために使うが、犯罪者だけでなく一般市民の行動も監視される。国民のプライバシー侵害が懸念されるが、中国では大きな反対運動は起こっていない。このため、膨大な数の顔写真データが蓄積され、AIのアルゴリズム教育に大きく寄与している。中国政府はSharp Eyesのもう一つの目的を、AIを使ったコンピュータビジョン技術の育成に置いている。監視カメラの映像を解析するAIの技術開発を支援し、世界トップを目指している。

2016年の米国大統領選挙はFacebookを通じてフェイクニュースが拡散し社会が混乱した。この背後にはロシアの情報操作があり、フェイクニュースがトランプ大統領誕生の理由とまで言われる。2018年は米国中間選挙の年で、今年はAIを悪用したフェイクビデオが世論を操作すると懸念されている。

フェイクビデオとは

フェイクビデオとは悪意を持って改造されたビデオで、AIが現実に存在しない映像をリアルに描き出す。実際に、オバマ前大統領が星条旗の前で演説しているフェイクビデオが登場した。オバマ前大統領は「誰でも好きなことが言える時代となった」と述べ、演説が始まる (上の写真、左側)。しかし、途中で「トランプ大統領は完全に無能な輩 (Dipshit)」と語り、自分の耳を疑った。オバマ前大統領のショッキングで下品な発言に驚いていると、映画監督で俳優であるJordan Peeleが登場した (上の写真、右側)。

意のままにスピーチさせる技法

実は、このビデオは改造されたもので、Peeleが喋っている通りにオバマ前大統領が喋っていることが分かった。ビデオ映像はリアルで、言葉通りにオバマ前大統領の唇が動いており、Peeleが登場するまでフェイクビデオとは分からなかった。ビデオの声はPeeleのものであるが、同氏はオバマ大統領の物まねが得意で、声でも見分けがつかなかった。この事例はオバマ前大統領のビデオを改造し、意のままにスピーチさせる技法で、重大な危険性を感じさせるビデオである。これはニュースサイトBuzzFeedとJordan Peeleが共同で制作したもので、フェイクビデオの危険性を啓もうする目的で作成された。

映画スターの顔を置き換える

フェイクビデオが社会問題になっているが、その技法は「DeepFake」と呼ばれている。DeepFakeはAIを使い、写真やビデオの中に登場する人物の顔を、別の顔と置き換える技法。置き換えられた顔はリアルで、偽造されたビデオだとは気が付かない。映画GoldfingerのSean Conneryの顔を人気俳優Nicolas Cageで置き換えたビデオが公開されている (下の写真、上段)。映画のシーン (下段左側) で、顔の部分だけをNicolas Cage (下段右側) で置き換えたもの。短いビデオとなっており、たばこにライターで火をつける一連の動きを見ることができる。

トランプ大統領の顔を置き換える

トランプ大統領やプーチン大統領など、大物政治家がフェイクビデオの対象となっている。俳優Alec Baldwinはトランプ大統領の物まねで人気を得て、娯楽番組の政治風刺コメディで活躍している。トランプ大統領に扮するBaldwin (下の写真、左側) の顔を、DeepFakeの技法で、本物のトランプ大統領の顔と置き換えたビデオ (下の写真、右側) が話題となっている。ここでも、Baldwinが喋るとおりに、偽造されたトランプ大統領が喋る構成になっている。偽物の大統領は本物と見分けがつかず、フェイクビデオが悪用されるとその影響は甚大だ。

映画スターが被害にあう

DeepFakeが社会問題となり、その危険性が認識されたのは、あるポルノ映画が切っ掛けであった。ポルノ女優の顔を映画スターの顔で置き換えたフェイクビデオがネットに掲載され、社会に衝撃を与えた。映画Wonder Womanを演じたイスラエルの女優Gal Gadotの顔がポルノビデオの中で使われた。Gadotがポルノ映画に登場したと思われ、顔を置き換えることの危険性がはっきりと認識された。この他に、Emma Watson、Katy Perry、Taylor Swiftなどが被害にあった。

DeepFakeとは

DeepFakeはAIを組み込んだソフトウェアで、写真やビデオの中に登場する人物の顔を、別の顔と置き換える機能を持つ。基礎技術について論文が発表され、その成果が公開されている (下の写真)。

これはオリジナルの写真の顔 (最上段) を、Nicolas Cageの顔 (下から二段目) と Taylor Swiftの顔 (最下段) で置き換えたもの。その結果がそれぞれ、二段目と三段目に示されている。左端は女優Jennifer Anistonの顔を、Nicolas CageとTaylor Swiftで置き換えたもの。拡大して見ると、Anistonの眼、鼻、唇、眉毛、顔のしわなどが、CageとSwiftのものと置き換わっている。一方、顔の向き、視線、唇の表情、髪は元の顔を踏襲している。つまり、顔の表情はオリジナルのままで、各パーツが置き換わっていることが分かる。

Deep Learningの手法

DeepFakeはDeep Learningの手法で顔を学び、両者の顔を置き換える技法を習得する。具体的には、Convolutional Neural Networksが、元の顔と置き換える顔の特徴を学び、それらをスワップする。教育のために両者の顔写真を大量に入力し、アルゴリズムは顔と特徴と置き換えるプロセスを学習する (下の写真)。アプリはCUDA (Nvidiaの開発環境) で稼働し、プロセッサとしてNvidia GPUが必要となる。大規模な計算量が発生するが、パソコンにNvidiaグラフィックカードを搭載した構成で実行できる。ハリウッドの特撮を誰でも簡単に行える時代となった。

DeepFake制作者

顔を置き換えるアルゴリズムは学術テーマとして大学などで研究が進んでいる。DeepFakeは研究成果をソフトウェアの形で公開したもので、それが悪用され社会問題となってる。具体的には、ソーシャルニュースRedditのユーザ「derpfakes」により開発され、その成果 (上述のポルノ映画フェイクビデオ) がRedditに公開され、社会を驚かせた。その後、derpfakesはこのソフトウェアを公開し、誰でも利用できるようになった。更に、Redditの別のユーザ「fakeapp」が使いやすいツールを開発しGithubに公開したため、普及が一気に進んだ。

DeepFakeの問題点

DeepFakeを悪用すると、実物と見分けのつかないフェイクビデオを簡単に制作できる。トランプ大統領が北朝鮮を軍事攻撃したと発表するフェイクビデオを作ることができ、社会に与える影響は甚大である。既に、編集ツールAdobe Photoshopを使って写真やビデオが改ざんされている。DeepFakeの危険性はAIで、素人でも手軽にフェイクビデオを作れることだ。Photoshopでは専門家が手作業でビデオを改ざんするが、DeepFakeはこのプロセスを自動化し、フェイクビデオの危険性が現実のものとなった。

フェイクビデオ対策は難しい

大統領選挙ではFacebookを通してフェイクニュースが拡散したが、今年の中間選挙ではフェイクビデオが使われると懸念されている。これに対して、FacebookはAIでヘイトスピーチを検知すると表明したが、技術が完成するまでに5-10年かかる。他の企業もフェイクビデオを検知する技術の開発には数年を要するとみており、中間選挙では有効な手立てがないのが実情である。

自ら身を守る

そのため有権者や市民は自ら身を守ることが必要となる。ビデオを見るときは、全面的に信用するのではなく、疑ってみることがポイントとなる。直感的におかしいと感じる時は、別のソースで情報を確認するなど、自衛手段が必要となる。フェイクニュースの轍を踏まないように少し賢くなることが求められている。