ウクライナ(Ukraine)政府はロシアがフェイクビデオを使って情報操作する危険性を表明し、国民に冷静な対応を呼びかけていた。実際に、ゼレンスキー(Zelensky)大統領のフェイクビデオがメディアに掲載された(下の写真)。偽の大統領は国民に、武器を捨ててロシアに投降するよう呼びかけた。MetaはこのビデオはDeepfakesであると判定し、プラットフォームから削除した。戦時下においてはAIを使った情報戦が展開されるが、今回はそのプロトタイプが登場し、デジタル兵器の攻防が始まった。

出典: Operational Report @ Telegram

ゼレンスキー大統領の偽ビデオ

3月16日、ゼレンスキー大統領がビデオメッセージで、国民に武器を捨ててロシアに投降するよう呼びかけた。これはウクライナに対する情報戦で、ビデオはアルゴリズムにより生成されたDeepfakesで、本人の演説ではない。Metaはこれをフェイクビデオであると特定し、プラットフォームから記事を削除した(下の写真)。ロシアがウクライナに侵攻した後、Metaは特別チーム「Special Operations Center」を形成し、24時間体制で情報操作をモニターしており、このフェイクビデオを即座に検知することができた。

出典: Meta

ロシアでビデオが拡散

このフェイクビデオはMetaのプラットフォームからは削除されたが、他のソーシャルネットワークで拡散している。メッセージングアプリ「Telegram」にこのフェイクビデオが掲載され、ここには、「ハッカーがウクライナのサイトにこのビデオを掲載した」とのコメントが添えられている (先頭の写真)。また、ロシアのソーシャルネットワーク「VK」にも同じビデオが掲載され、クレムリンを指示するグループで拡散している。

テレビ局のハッキング

これに先立ち、ウクライナのテレビ局「Ukraine 24」がハッキングされ、テレビ画面に偽のテロップが表示された。フェイク・テロップはニュース画面の下部に表示され、ゼレンスキー大統領からのメッセージと偽り、「戦闘を止め武器を捨てる」よう国民に訴えた(下の写真、最下部)。また、「大統領は交渉に失敗し、キエフを去った」とも伝えている。

出典: Ukraine Now @ Telegram

ゼレンスキー大統領の対応

フェイクビデオに対し、ゼレンスキー大統領はショートビデオを公開し、偽情報を打ち消した(下の写真、Instagramから配信)。ショートビデオで、拡散したビデオは偽情報で、つたない手法の攻撃であると非難した。大統領はオフィシャルサイトから、定常的に国民にメッセージをショートビデオで配信しており、今回も、このアカウントから真実の情報を伝えた。

出典: Zelensky @ Instagram

フェイクビデオの完成度

実際に、フェイクビデオを見ると、完成度は低く、これは本物ではないと感じる。頭部が体に比べて大きく、不自然さを感じる。また、喋っている時に、頭部は動くが、体は不動のままで、強い違和感を覚える。Deepfakesを生成する高度なGANが開発されているが、このビデオは技術的には未熟で、完成の域に達していないことが分かる。このフェイクビデオはプロトタイプと解釈することもでき、これから技術改良が進み、判別が困難になると予想される。

Metaの特別チーム

ロシアはフェイクニュースなどを使って情報戦を展開しており、西側諸国が被害を受けている。米国においては、2016年の大統領選挙で、ロシアは大規模な情報操作戦を展開し、これがトランプ大統領の当選に繋がったとされる。Meta(当時はFacebook)は、ネットワークに掲載された偽情報を削除するなどの措置は取らず、米国社会から強い批判を受けた。これを教訓に、2020年の大統領選挙では、特別チームを形成し、偽情報をリアルタイムでモニターし、ロシアのデジタル攻撃を防いだ。ロシアのウクライナ侵攻では、再度、独別チームを形成し、デジタル戦を防衛している。

顔認識AIを開発している新興企業Clearviewは、1000億枚の顔写真を収集する計画であることが明らかになった。写真は顔認識AIのデータベースに格納され、被験者を特定するためのインデックスとして使われる。世界の人口は約79億人で、一人につき12枚の写真が収集される勘定になる。このAIを使うと、世界の全ての人物の身元を特定することができる。

出典: Clearview

顔認識AIの開発

このAIを開発しているのはClearviewという新興企業で、世界最大規模の顔データベースの構築を計画している。投資家向けの資料がネットに流出したことで明らかになった。この資料によると、Clearviewは、現在、100億枚の顔写真を格納したデータベースを運営している。これを、1000億枚に拡充するために、資金の調達を進めている。

データベースの規模と判定精度

この規模のデータベースを使うと、AIは顔写真から、世界の殆どの人物の身元を正確に特定できる。具体的には、世界の人口の98％を、99.5％の精度で判定することができる。現在、Clearviewは100億枚の顔写真を格納したデータベースを運用しており、カバー範囲は75％となる。1000億枚の顔写真を使うと、世界の殆どの人を特定できる顔認識AIが生まれる。

利用目的

Clearviewは高精度な顔認識AIを開発し、米国政府を中心に、治安維持を目的に使われている。Clearviewの顔認識精度は、他の製品に比べひときわ高く、犯罪捜査で顔写真から容疑者の身元を特定するために使われる。昨年の米国連邦議会襲撃事件では、900超の顔写真をClearviewで解析し、350人の身元を特定することができた。このシステムは、FBI(連邦捜査局)や国土安全保障省などで使われている。

出典: Clearview

ベンチマーク結果

Clearviewは世界でトップレベルの性能を持っている。米国では、NIST(国立標準技術研究所)が顔認識AIのベンチマーク結果を公開しており、世界のベンダーの判定精度を知ることができる。これによると、中国Sensetimeがトップで、Clearviewは二位の判定精度となる。しかし、Clearviewは、Sensetimeより大きなデータベースを持ち、実効性能で上回るとしている。因みに、第三位はロシアVisionLabsで四位もロシアNTechLabとなる。

データベースの規模

世界でトップレベルの判定精度を持つClearviewであるが、その開発手法が社会問題となっている。AIが被疑者の写真から本人の身元を特定するためには、解析した写真と同一の人物を、データベースから見つけ出す。このため、データベースの規模が大きいほど、マッチングの確度が上がる。

データ収集の手法

Clearviewは世界のウェブから顔写真を収集する手法でデータベースを開発してきた。Facebookなどソーシャルネットワークに掲載されている顔写真を、本人の許可なくダウンロードし、これをデータベースに格納する。これは、スクレ―ピングという手法で、個人のプライバシーを侵害するとして、米国社会で問題視されている。実際に、全米各地で集団訴訟が起こり、Clearviewの手法は法廷で問われることになる。

ビジネスモデル

Clearviewの顔認識AIは、治安当局による犯罪捜査で使われている。Clearviewは、データベースの規模を10倍に拡大するとともに、顔認識AIの新しいビジネスモデルを計画している。対象を政府官庁から企業に拡大し、顔認識AIで、セキュリティや顧客サービスなどのソリューションを開発する。特に、金融機関やギグ・エコノミー(Gig Economy)向けを重点分野とし、事業開発を進める。

出典: Clearview

金融機関向けソリューション

Clearviewは顔認識AIを金融機関向けに提供することを計画している。これは、マネーロンダリングを検知するためのソリューションで、顔認識AIで利用者が犯罪者リストに登録されているかどうかを検知する。これは「One-to-Many Analysis」と呼ばれる手法で、利用者の顔写真でデータベースを検索し、身元を特定する。偽名を使った犯罪行為を検知できる。

ギグ・エコノミー向けソリューション

Clearviewはギグ・エコノミー向け顔認識AIに対する需要が大きくなると予想している。ギグ・エコノミーとは、ネットを通じた雇用制度で、契約社員として単発で働く方式を指す。Uberなどのライドシェアがギグ・エコノミーの代表となる。企業側はギグ・ワーカーを採用する際に、顔写真を顔認識AIで解析し、過去の履歴を確認する。この他に、Walmartなど小売店舗は、万引き防止のために、顔認識AIで容疑者の身元を特定するなどの活用法が検討されている。

出典: Clearview

治安維持かプライバシー保護か

米国ではサンフランシスコなど主要都市が顔認識技術の使用を禁止したが、連邦政府レベルではこれを規制する法令は無い。顔認識技術の利用について、統一したガイドラインは無く、運用の可否は各政府機関に任されている。顔認識技術を提供するAmazon、IBM、Microsoft、Googleは、無用の混乱に巻き込まれるのを恐れ、自主的にビジネスを停止している。Clearviewは、独自の解釈で、顔認識AIを提供する方針を貫いている。高精度な顔認識AIが犯罪捜査に寄与し、社会の治安が保たれていることは事実である。一方、Clearviewは、個人の顔写真を無断で使っており、これがプライバシー侵害に該当するのか、法廷で審理が進んでいる。

女性の服を“脱がせる”サイトが急成長している。AIが写真に写っている女性を裸のイメージに変換するもので、生成されるヌードイメージはリアルで、真偽の区別がつかない。”脱がせサイト”に、女性の写真をアップロードすると、そのヌード写真が生成される。このサイトへのアクセスが急増し、危険なサービスがネット上で増殖している。セレブや一般女性が被害を受けており、これからはネットに写真を掲載する際は注意を要す。

出典: (非表示)

サイトXの概要

(被害の拡大を防ぐため、実名を記載せず「サイトX」と表記する。) サイトXは女性の写真をヌードイメージに変換する「Nudify」というクラウドを運営(上の写真、フィルターで加工)。このサイトで、女性の写真をアップロードすると、AIがそれから服を取り去った写真を生成する。写真を裸にするクラウドで、使い方が簡便なことから、アンダーグランドで話題になり、数多くの利用者を集めている。今年に入り、5000万件のアクセスがあり、隠れた人気サイトとなっている。

脱がせるアプリ

サイトXが注目される理由は、高精度なヌードイメージを生成するためである。現在、女性を裸にするAIの代表は「DeepNude」というアルゴリズムで、オープンソースとしてGitHubに公開されている(下の写真)。誰でも自由にこのAIを使い、”脱がせアプリ”を開発できる。実際に、ネット上にはDeepNudeで開発したアプリが多数掲載されている。

出典: DeepNude@GitHub

独自の進化を遂げる

サイトXはDeepNudeを使っておらず、独自でアルゴリズムを開発し、機能が格段に向上した。DeepNudeでは、高品質なイメージを生成するためには、入力する写真に厳しい条件が付く。普通の写真では上手くいかず、水着のように肌が露出しているものが求められた。サイトXではこの制約がなくなり、服を着て肌が露出していない写真もヌードイメージに変換される。このため、応用範囲が拡大し、被害が広がっている。

ビジネスモデル

サイトXはフリーミアムのビジネスモデルを取り、利用料金でビジネスを構成している。トライアルとして無料で使え、制限なく利用する場合は、一回のクエリー(API Quota)で0.15ドル課金される。生成したイメージをダウンロードして利用し、アップロードした写真は数日後に消去される。

パートナープログラム

サイトXの人気が拡大した背後には、ヌードイメージの作成をビジネスと捉え、パートナープログラムを導入した点にある。利用者は、生成したヌードイメージをネットに掲載するが、その際に、サイトXへのリンクを記載することで、報酬を得る仕組みとなっている。このリンクがクリックされると、利用料金が値引きされる。この仕組みでサイトXへのアクセスが急増している。

被害の実態

もはや、被害の範囲はセレブや著名人から一般女性まで多岐にわたっている。女性を正面から撮影した全身写真があれば、それをヌードイメージに変換できるため、多くの女性が被害を受けている。一般女性ではリベンジポルノとして使われるケースが多い。また、利用者の身近の女性が被害を受けるケースが多いと指摘される。

政府の規制

被害の範囲が拡大しているが、米国ではこれを規制する法令は無い。カリフォルニア州は、DeepFakes(顔をスワップするAI)に関し、これを選挙に悪用することを禁止する法令を制定したが、DeepNudeについてはこれを規制する法令は無い。脱がせアプリは、通常のサイトではなく、闇サイトで使われるケースが多く、被害の実態がつかめないことが、規制が進まない原因となる。

出典: gurinaleksandr

女性の防御手段

今のところ、女性が脱がせアプリから身を守る方法は見当たらない。女性が被害に会わないためには、全身の写真をネットに掲載しないことが肝要となる。脱がせアプリに攻撃される危険性を認識し、写真の管理を厳格にすることが必要となる。特に、ソーシャルメディアに全身が写った写真を掲載すると、悪用される可能性が高まる。自分を主張する自由が制約され、窮屈な社会となるが、危険性を考慮して判断を下すことになる。

米国の主要小売店舗でAI監視カメラの導入が進んでいる。店舗に設置された監視カメラの映像をAIで解析し、商品窃盗者の身元を特定する目的で使われる。消費者が気付かないうちに普及が進み、今ではApple Storeなど大手小売店舗がAI監視カメラを導入している。しかし、人権保護団体は、AI監視カメラは消費者の誤認逮捕につながるとして、小売店舗に対しシステムの使用を停止するよう求めている。

出典: Macy’s

老舗デパート・メイシーズ

米国のデパートやスーパーマーケットでAI監視カメラの導入が進んでいる。老舗デパートであるMacy’sは、顔認識システムを導入していることを明らかにしている。その理由として、犯罪組織が特定地域で商品窃盗を繰り返しており、これを抑止するためにAI監視カメラを利用すると説明している。実際に、米国は昨年から治安が悪化しており、有名店舗で高級品を狙った窃盗事件が多発している。

アップルストアー

Appleは何も公表していないが、Apple StoreはAI監視カメラを導入し、商品窃盗を防止していることが判明した。Appleとそのセキュリティ企業Security Industry Specialistsは消費者から顔認識システムに関し訴訟を受けている。訴状によると、Appleは顔認識システムで窃盗者を特定したが、これはアルゴリズムのエラーで、別の人物がその人物になりすまして犯行を実行したことが判明した。このため、消費者は誤認逮捕されたとしてAppleなどを提訴している。この訴訟が切っ掛けでAppleがAI監視カメラを導入していることが明らかになった。

出典: Apple

セブンイレブンなど

この他に、コンビニ7-Elevenはオーストラリアの全店舗でAI監視カメラを導入している。また、ハンバーガーチェインのMcDonald’sは2019年、注文受付カウンターで顔認識システムのプロトタイプの運用を開始した。現在、マクドナルドは監視カメラで店舗内の顧客を撮影し、セキュリティを強化している。一方で、AI監視カメラを使用しないと表明する企業も少なくない。Starbucksは顔認識システムを利用しないことを明言しており、顧客のプライバシーを保護する方針を維持している。

多くの店舗が顔認識システムを導入

人権監視団体「Fight for the Future」は顔認識システムの利用状況をまとめ、これをデータベースとして公開している。これによると、調査した53社のうち35社が顔認識システムを使っている。消費者が気付かないうちに米国小売店で顔認識システムの普及が進み、全体の2/3がAI監視カメラを導入している。現在、人権監視団体は小売店舗で顔認識システムの利用を停止するための活動を展開している。

反対する理由

人権監視団体がこの運動を展開する理由は消費者や店舗従業員の保護にある。顔認識アルゴリズムは判定精度が十分でなく、システムは間違った判定を下すことが少なくない。このため、Apple Storeのケースのように、消費者が誤認逮捕されることになる。また、顔認識システムは消費者の挙動を収集するためにも使われる。AI監視カメラで消費者の店内での挙動を把握し、この情報を元にターゲット広告を配信する。更に、AI監視カメラは小売店舗従業員の仕事ぶりを監視する目的で使われ、アルゴリズムが動きを逐一モニターする。

出典: Fight for the Future

警察は顔認識システムの使用を中止

顔認識システムの妥当性についての議論が始まり、全米の警察はその利用を禁止する方向に進んでいる。サンフランシスコ市は警察が顔認識技術を使うことを禁止した。これがトリガーとなり、対岸のオークランド市とバークレー市も顔認識技術の使用を禁止し、警察はこのシステムの使用を中止した。この背後には政府がAIで市民を監視することへの漠然とした恐怖心があり、顔認識システム禁止の動きが全米に広がる勢いとなっている。

欧州と米国の動き

消費者はAIに対する漠然とした恐怖から、顔認識システムに過剰に反応していることも事実である。AI監視カメラを正しく使うと、犯罪を抑止し、地域のセキュリティが向上する。このため、欧州委員会(European Commission)はAI監視カメラについてその使用を認めている。但し、AI監視カメラで顔認識システムが稼働していることを明示することを義務付けており、消費者への配慮を求めている。米国も同様な方向に進んでおり、警察での使用禁止とは対照的に、小売店舗や企業でAI監視カメラの導入が進んでいる。