Deepfakesとは、AIを使って人物のイメージを生成する技術を指し、被写体の人物の顔を別人の顔に置き換える機能を持つ。このためDeepfakesは「Face Swapping」とも呼ばれ、顔をスワップするために使われる。映画や広告で往年のスターを再現する特撮として使われるが、Deepfakesの殆どがポルノで使われ多くの女優が被害にあっている。また、米国では大統領選挙がフェイクイメージで混乱すると恐れられている。Deepfakesの技術進化は速く、ネット上には高度なフェイクビデオが掲載され、何が真実なのか判別がつかない社会に向かっている。

ポルノ映画

Deepfakesで生成されたフェイクビデオの数が急増しているが、その96%がポルノ映画で使われてるという報告もある。Deepfakesはビデオで登場するポルノ女優の顔を有名女優や歌手の顔で置き換える。女優や歌手は顔が無断で使われ、イメージが傷つき、Deepfakesの最大の被害者となってる。被害を受けている女優や歌手は米国だけでなく英国や韓国など世界に広がっている。

大統領選挙

2020年は米国大統領選挙の年で、候補者を攻撃するためにDeepfakesが使われると懸念される。既に、民主党大統領候補エリザベス・ウォーレン(Elizabeth Warren)のフェイクビデオが登場した(下の写真右側)。テレビ女優ケイト・マッキノン(Kate McKinnon)の顔(下の写真左側)がウォーレンの顔(右側)で置き換えられた。これは大学が研究目的で生成したものであるが、大統領選挙で先頭を走るウォーレンはこれから様々な攻撃を受けることが予測される。特に、米国政府はロシアや中国がDeepfakesを使って世論を操作することを警戒している。

テレビ難組

人気トークショーに出演したビル・ヘイダー(Bill Hader、下の写真右側)の顔がアル・パチーノ(Al Pacino)の顔で置き換えられた(下の写真左側)。このビデオはCtrl Shift Faceにより生成されたもので、番組でヘイダーが演じたシーンをDeepfakesで顔を置き換えた。多くのDeepfakesを見たがこのビデオが一番完成度が高い。目の前で顔が陽気なヘイダーからストイックなパチーノに移り変わり、見ていて気味悪さを感じる。

映画スター

映画会社はAIを使って若き日のスターの姿を蘇らせ、亡くなった俳優が最新の映画に登場する。映画「ローグ・ワン(Rogue One: A Star Wars Story)」で、ピーター・カッシング(Peter Cushing)が演じる軍人グランド・モフ・ターキン(Grand Moff Tarkin)の姿がAIで再現された(下の写真右側)。これは特殊効果制作会社Industrial Light & Magicが生成したもので、俳優(Guy Henry)の表情や演技をヘッドカメラなどで捉え、これをAIでPeter Cushingに変換した。高精度な光学機器と大規模な編集システムが使われ、往年のスター(下の写真左側、オリジナルの映画)が完全な形で蘇った。一方、亡くなった俳優を高度なAIで再生することについては意見が分かれる。本人の了解なくスクリーンで演技をさせることは倫理的に問題である、という意見も少なくない。

美術館

フロリダ州のダリ美術館「The Dali Museum」はDeepfakesを使って作家ダリを蘇らせた(先頭の写真)。機知に富むダリはビデオ「Dalí Lives」に登場し、「死んではいなかった」と語る。これは広告会社GS&Pにより制作されたもので、過去に撮影された6000枚のフレームを使ってこのビデオが作られた。ダリは観客の言葉に応じて様々な動きをするが、これら異なるシーンはDeepfakesを使って生成された。最後に、ダリは観客に「一緒に自撮りをしませんか」と尋ね、撮影した写真を示してビデオが終わる。

スマホアプリ

スマホアプリ「Zao」を使うと誰でも簡単に映画スターになれる。Zaoは中国企業が開発したもので、Deepfakesのモバイル版となり、映画スターの顔を自撮り写真で置き換える。例えば人気テレビドラマ「ゲーム・オブ・スローンズ(Game of Thrones)」を選ぶと、ジョン・スノー(Jon Snow)の顔(下の写真左側)を自分の顔で置き換えることができる(下の写真右側)。ハンサムだが少し影があるスノーに代わって自分が映画の中で演技するフェイクビデオができる。このアプリが絶大な人気を博している理由は、少ない数の写真でリアルなフェイクビデオができことにある。Zaoの事例はDeepfakesが急速に進化している確かな証拠となる。

カリフォルニア州の法令

このようにDeepfakesは急速に進化しており、来年の大統領選挙を前に、全米で危機感が広がっている。カリフォルニア州は2019年10月、選挙に関連してDeepfakesを使うことを禁止する法令を制定した。この法令は選挙に限定して適用され、投票日まで60日以内に、候補者のフェイクイメージやフェイクボイスを配布することが禁じられる。ただし、報道各社に対しては適用が除外され、また、風刺や娯楽を目的としたDeepfakesも対象外となる。Deepfakesを生み出しているカリフォルニア州は技術の悪用に対し厳しく対処する姿勢を示している。

米国連邦政府の法案

米国連邦議会もDeepfakesを規制する法案の制定を進めている。これは「DEEPFAKES Accountability Act」と呼ばれ、下院議員Yvette Clarkeにより提案された。この法案はソーシャルメディア企業にDeepfakesを検知する技術の開発を義務付けるもので、また、悪意あるDeepfakesをウェブサイトに掲載することを禁じる。2016年の大統領選挙で有権者はフェイクニュースで混乱し、米国政府はその対応が後手に回った。2020年はフェイクビデオが世論をかく乱するとして対応を進めている。

フェイクビデオを検知するAI

Deepfakesの生成ではGoogleのTensorFlowが使われ、生成されたフェイクビデオはFacebookのソーシャルネットワークで拡散する。GoogleとFacebookは間接的であるがDeepfakes開発に関与している。このため、両社はDeepfakesを検知する技術の開発を進めている。Deepfakes検知技法の研究は大学などが進めているが、AIを使ってフェイクビデオを特定する方式が主流になっている。このため、AIを教育するために大量のフェイクビデオが必要となる。GoogleとFacebookはこの教育データを生成することで検知技術開発に寄与している。高度な検知技術が登場しているがDeepfakesの技術進化は速く、半年から一年以内に完璧なDeepfakesが登場すると懸念されている。

サンフランシスコやオークランドで顔認識技術を規制する法令が相次いで成立し、警察が犯罪捜査でこの技術を使うことが禁止され、この流れが全米に広がっている。一方、米国市民は警察ではなく民間企業が顔認識技術を使うことを懸念している。民間企業が顔認識技術を乱用するケースが増えており、米国社会でAIへの不信感が広がっている。

世論調査

調査会社Pew Researchによると、米国市民の56%は警察が顔認識技術を使うことを容認していることが分かった。特に、警察がテロ対策など治安維持のため公共の場で顔認識技術を使うことに対しては59%の人が賛成している。これに対し、民間企業が顔認識技術を使うことに対しては36%の人が容認している。米国の消費者は顔認識技術活用について警察ではなく民間企業を信用していないという事実が明らかになった。

コンサート会場

こうした世論の背後には民間企業が顔認識技術を乱用している事実がある。人気歌手Taylor Swiftのセキュリティチームはコンサートツアー「Reputation Stadium Tour」で観客を撮影し、顔認識技術を使い、特定の人物を把握していたことが明らかになった。観客の中からストーカーを特定するために顔認識技術が使われ、Swiftが被害にあうのを未然に防止するための措置であった。また、Rose Bowlでのコンサートにおいても(上の写真)、キオスクに設置されたカメラでファンを撮影しストーカーを特定した。これらの措置は観客に通知されておらず、ファンの中にはこの行為をプライバシー侵害と捉える人も少なくなかった。

イベント入場システム

イベントチケット販売会社「Ticketmaster」は顔認証技術を使ったイベント入場システムを開発している。同社は「Ticketmaster Presence」というデジタルチケットを提供しており、利用者はスマホにチケットを格納し、会場ゲートでスマホをリーダーにかざすだけで入場できる(下の写真)。格納したチケットから人間には聞こえない音が発せられ、これをマイクで読み取り本人を確認する仕組みとなる。

顔パスで入場

Ticketmasterは次期システムとして顔認証技術に注目している。チケット購入者はスマホを使う必要はなく顔パスで会場に入場できる。事前に顔写真を自撮りしこれをTicketmasterに登録しておくと、会場ゲートではカメラで撮影した顔写真とこれを比較することで顔認証が実行される。手ぶらで入場できるため便利な仕組みであるが、ファンやアーティストから反対の声が上がっている。顔の形状という生体情報が採取されることが懸念の原因で、Ticketmasterがこれら生体情報をどう管理するのかが問われている。また、警察当局からこれら生体情報の提供を求められた際、Ticketmasterは拒み切れるのかについても疑問視されている。

アパートのセキュリティ

ニューヨークの低所得者向けアパート「The Atlantic Plaza Towers」(下の写真)に顔認証システムが導入される計画が明らかになり、入居者が一斉に反対している。このアパートは二重のセキュリティがしかれ、ビルに入るときと部屋に入るときに二種類のキー(Key Fob)を使う。このうち、ビルに入るキーを顔認証システムに置き換え、ビル入り口で専用デバイスにより顔認証を受ける仕組みとなる。しかし、アパートの住人はキーを顔認証技術に置き換えることに反対し、意見書を管理会社に提出した。住民は顔データを使って監視されることに対し強い懸念を示している。住人の多くは黒人で、アパート管理会社は黒人の住人を監視し、白人や他の人種に置き換えるためと疑っている。顔認証技術を使って人種選別が行われることを恐れている。

コンビニの入店管理

コンビニなどの小売店舗が顔認証技術を導入する動きが目立ってきた。セキュリティを強化するのが目的で、店舗入り口にカメラを設置し、顔認証技術で顧客を確認する(下の写真)。問題がなければ入口のロックが開錠され顧客は店内に入ることができる。しかし、犯罪者を特定すると入口のロックは開錠されず、店員にアラートが発信される。万引き常習犯や犯罪者を店舗内に入れないためのシステムで、ポートランドのコンビニ「Jackson Store」などが採用している。しかし、消費者からは顔認証技術の乱用であるとの声が上がっている。消費者は入店するために顔データが採取され、犯罪者データセットと付き合わされる。この方式はプライバシーの侵害で法的な規制を求める声が多い。

妥当性について意見が分かれる

民間企業が顔認証技術を使いセキュリティを強化しているが、それらが妥当かどうかについては意見が分かれている。Taylor SwiftやTicketmasterのケースでは安全性や利便性を勘案すると容認できるとの意見もあるが、著名コンサートイベント「Austin City Limit」などは会場で顔認識技術の使用を禁止すべきとしている。アパート入室管理で顔認証技術を使うことは違法ではないが、このケースでも規制を求める声が高まっている。

民間企業向けの規制

一方、コンビニに入店するために顔認証を受けることは一線を超えているとして、市民が強く反対している。民間企業のケースでは顔認証技術を制限する法令はなく、各社の自主規制に任されている。このため、技術の乱用と思われるケースも少なくなく、統一したルール作りが求められている。ポートランド市などが規制案を検討しており、警察の次は民間企業向けの顔認証技術運用ルールが審議されている。

サンフランシスコ市は警察が顔認識技術を使うことを禁止した。これがトリガーとなり、対岸のオークランド市も顔認識技術の使用を禁止し、バークレー市も同様な法令を審議している。この背後には政府がAIで市民を監視することへの漠然とした恐怖心があり、使用禁止が全米に広がる勢いとなってきた。

サンフランシスコの規制

サンフランシスコ市は2019年5月、全米に先駆けて顔認識技術の使用を禁止する法案を可決した(上の写真、市庁舎)。これにより警察と市関係機関は顔認識技術を使うことができなくなった。顔認識技術を支えるAIを生み出しているサンフランシスコがこれを禁止したことの意味は重大で、規制の波が全米に広がっている。ただ、サンフランシスコ警察は顔認識技術を使っておらず、この法令は警察捜査に影響を及ぼすものではなく、市民の自由を守る宣言として受け止められている。

主要都市で規制が広がる

これに続き、マサチューセッツ州サマービル市は2019年6月、顔認識技術の使用を禁止する法案を可決した。この法案は成立する見込みで、これにより警察が捜査や監視で顔認識技術を使うことが禁じられる。また、オークランド市は2019年7月、両市に続き顔認識技術の使用を禁止する法案を可決し、バークレー市は類似の法案を審議している。

禁止する理由

顔認識技術の使用を禁止する理由は市民のプライバシーを守ることにある。多くの市民は、顔認識技術をAI監視システムと捉え、政府により監視されるとへの懸念を抱いている。また、顔認識技術が性別や人種による差別を助長することも問題視されている。AIの認識精度は不十分で誤検知が少なくない。特に、黒人や女性のケースで認識精度が大きく低下し、いわゆるバイアスの問題を抱えている(下の写真)。また、顔認識技術が特定団体を追跡するために使われると、言論の自由も脅かされる。

民間企業は規制なし

政府機関の顔認識技術利用が禁止されるが、民間企業がこれを使うことに関しては制約はない。事実、Appleの「Face ID」は顔認識方式でiPhoneをアンロックする。また、GoogleのAIドアベル「 Nest Hello」は顔認識技術で来訪者の氏名を告げる。民間企業は法令の制約を受けることなく、顔認識技術を製品差別化の武器として導入している。しかし、GAFAによる個人データ管理が問題となる中、この流れが変わってきた。

イリノイ州のケース

イリノイ州は2008年に「Biometric Information Privacy Act」という法令を定め、企業が指紋や顔などの生体情報を収集する際に、利用者の同意を義務付けている。これは民間企業に対する規制で、顔認識技術を使ったビジネスを事実上禁止するものとなる。Facebookは顔認識技術による写真タグ機能「Tag Suggestions」を公開しており、これが法令に抵触するとして提訴され、控訴審で敗訴した。

Facebookへの判決

米国連邦裁判所(9th Circuit U.S. Court of Appeals)は2019年8月、イリノイ州の利用者は顔認識技術に関しFacebookを訴訟できるとの判決を下した。Facebookが運用している顔認識技術はBiometric Information Privacy Actに違反するとの判断が示された。これによりイリノイ州でFacebook利用者による集団訴訟が認められたことになる。

Amazonのポジション

Amazonはクラウドで顔認識技術「Amazon Rekognition」を提供しており(下の写真)、オレゴン州の警察はこの技術で犯罪捜査を進めている。人権団体はAmazonに対しRekognitionの警察への提供を中止するよう圧力を強めている。また、Amazon社員は、顔認識技術が乱用される恐れがあるとして、Rekognitionを警察に提供しないよう求めている。これに対し、Amazonクラウド部門の社長Andy Jassyは規制の必要性を認めたうえで、顔認識技術について連邦政府が統一したルールを制定すべきとの見解を示した。連邦政府が主導しないと全米で50の異なる規制が生まれることになると警告した。

Microsoftのポジション

Microsoftは既に顔認識技術に対する会社のポジションを明らかにしている。これは社長のBrad Smithがブログで公開したもので、連邦議会にAIによる顔認識技術の運用ルールを設定するよう求めている。顔認識技術は社会に大きな恩恵をもたらすがその危険性も大きい。このため、政府の規制がないと重大な社会問題を引き起こすと警告している。自動運転車やロボットと同じように、顔認識技術についても消費者のコンセンサス形成が求められ、統一したルール作りが急務となる。

【顔認識技術とは】

顔認識のプロセス

顔認識は次のプロセスで構成される(下の写真)。①Face Detection：入力イメージの中で顔の部分を検出する。②Face Alignment：イメージから顔の部分を取り出し正面に向ける。③Feature Extraction：顔のLandmark(目、鼻、口など)を抽出する。④Classification：AIアルゴリズムで判定プロセスを実行する。このプロセスは「Face Identification」と呼ばれ、顔データセットを検索しマッチするレコードを見つける(「1 : N Matching」と呼ばれる)。警察の捜査では被疑者の顔写真で犯罪者データセットを検索し被疑者のIDを特定する。

AIをかく乱させる技術

監視カメラの導入が進む中、市民は独自の手法でプライバシーを自衛している。特殊パターンがプリントされたトップスを着るとAIは顔を認識できない(下の写真、左側)。AIはプリントされたパターンを顔と誤認識する。回路がプリントされたTシャツを着てクルマを運転すると、自動車ナンバー自動読取装置(Automatic Number-Plate Recognition)が誤作動する(下の写真、右側)。AIはTシャツにプリントされたパターンを自動車のナンバープレートと誤認して読み込む。