Deepfakesとは、AIを使って人物のイメージを生成する技術を指し、被写体の人物の顔を別人の顔に置き換える機能を持つ。このためDeepfakesは「Face Swapping」とも呼ばれ、顔をスワップするために使われる。映画や広告で往年のスターを再現する特撮として使われるが、Deepfakesの殆どがポルノで使われ多くの女優が被害にあっている。また、米国では大統領選挙がフェイクイメージで混乱すると恐れられている。Deepfakesの技術進化は速く、ネット上には高度なフェイクビデオが掲載され、何が真実なのか判別がつかない社会に向かっている。

出典: The Dali Museum

ポルノ映画

Deepfakesで生成されたフェイクビデオの数が急増しているが、その96%がポルノ映画で使われてるという報告もある。Deepfakesはビデオで登場するポルノ女優の顔を有名女優や歌手の顔で置き換える。女優や歌手は顔が無断で使われ、イメージが傷つき、Deepfakesの最大の被害者となってる。被害を受けている女優や歌手は米国だけでなく英国や韓国など世界に広がっている。

大統領選挙

2020年は米国大統領選挙の年で、候補者を攻撃するためにDeepfakesが使われると懸念される。既に、民主党大統領候補エリザベス・ウォーレン(Elizabeth Warren)のフェイクビデオが登場した(下の写真右側)。テレビ女優ケイト・マッキノン(Kate McKinnon)の顔(下の写真左側)がウォーレンの顔(右側)で置き換えられた。これは大学が研究目的で生成したものであるが、大統領選挙で先頭を走るウォーレンはこれから様々な攻撃を受けることが予測される。特に、米国政府はロシアや中国がDeepfakesを使って世論を操作することを警戒している。

出典: Stephen McNally

テレビ難組

人気トークショーに出演したビル・ヘイダー(Bill Hader、下の写真右側)の顔がアル・パチーノ(Al Pacino)の顔で置き換えられた(下の写真左側)。このビデオはCtrl Shift Faceにより生成されたもので、番組でヘイダーが演じたシーンをDeepfakesで顔を置き換えた。多くのDeepfakesを見たがこのビデオが一番完成度が高い。目の前で顔が陽気なヘイダーからストイックなパチーノに移り変わり、見ていて気味悪さを感じる。

出典: Ctrl Shift Face / Wikipedia

映画スター

映画会社はAIを使って若き日のスターの姿を蘇らせ、亡くなった俳優が最新の映画に登場する。映画「ローグ・ワン(Rogue One: A Star Wars Story)」で、ピーター・カッシング(Peter Cushing)が演じる軍人グランド・モフ・ターキン(Grand Moff Tarkin)の姿がAIで再現された(下の写真右側)。これは特殊効果制作会社Industrial Light & Magicが生成したもので、俳優(Guy Henry)の表情や演技をヘッドカメラなどで捉え、これをAIでPeter Cushingに変換した。高精度な光学機器と大規模な編集システムが使われ、往年のスター(下の写真左側、オリジナルの映画)が完全な形で蘇った。一方、亡くなった俳優を高度なAIで再生することについては意見が分かれる。本人の了解なくスクリーンで演技をさせることは倫理的に問題である、という意見も少なくない。

出典: Lucasfilm

美術館

フロリダ州のダリ美術館「The Dali Museum」はDeepfakesを使って作家ダリを蘇らせた(先頭の写真)。機知に富むダリはビデオ「Dalí Lives」に登場し、「死んではいなかった」と語る。これは広告会社GS&Pにより制作されたもので、過去に撮影された6000枚のフレームを使ってこのビデオが作られた。ダリは観客の言葉に応じて様々な動きをするが、これら異なるシーンはDeepfakesを使って生成された。最後に、ダリは観客に「一緒に自撮りをしませんか」と尋ね、撮影した写真を示してビデオが終わる。

スマホアプリ

スマホアプリ「Zao」を使うと誰でも簡単に映画スターになれる。Zaoは中国企業が開発したもので、Deepfakesのモバイル版となり、映画スターの顔を自撮り写真で置き換える。例えば人気テレビドラマ「ゲーム・オブ・スローンズ(Game of Thrones)」を選ぶと、ジョン・スノー(Jon Snow)の顔(下の写真左側)を自分の顔で置き換えることができる(下の写真右側)。ハンサムだが少し影があるスノーに代わって自分が映画の中で演技するフェイクビデオができる。このアプリが絶大な人気を博している理由は、少ない数の写真でリアルなフェイクビデオができことにある。Zaoの事例はDeepfakesが急速に進化している確かな証拠となる。

出典: Newsbeezer

カリフォルニア州の法令

このようにDeepfakesは急速に進化しており、来年の大統領選挙を前に、全米で危機感が広がっている。カリフォルニア州は2019年10月、選挙に関連してDeepfakesを使うことを禁止する法令を制定した。この法令は選挙に限定して適用され、投票日まで60日以内に、候補者のフェイクイメージやフェイクボイスを配布することが禁じられる。ただし、報道各社に対しては適用が除外され、また、風刺や娯楽を目的としたDeepfakesも対象外となる。Deepfakesを生み出しているカリフォルニア州は技術の悪用に対し厳しく対処する姿勢を示している。

米国連邦政府の法案

米国連邦議会もDeepfakesを規制する法案の制定を進めている。これは「DEEPFAKES Accountability Act」と呼ばれ、下院議員Yvette Clarkeにより提案された。この法案はソーシャルメディア企業にDeepfakesを検知する技術の開発を義務付けるもので、また、悪意あるDeepfakesをウェブサイトに掲載することを禁じる。2016年の大統領選挙で有権者はフェイクニュースで混乱し、米国政府はその対応が後手に回った。2020年はフェイクビデオが世論をかく乱するとして対応を進めている。

フェイクビデオを検知するAI

Deepfakesの生成ではGoogleのTensorFlowが使われ、生成されたフェイクビデオはFacebookのソーシャルネットワークで拡散する。GoogleとFacebookは間接的であるがDeepfakes開発に関与している。このため、両社はDeepfakesを検知する技術の開発を進めている。Deepfakes検知技法の研究は大学などが進めているが、AIを使ってフェイクビデオを特定する方式が主流になっている。このため、AIを教育するために大量のフェイクビデオが必要となる。GoogleとFacebookはこの教育データを生成することで検知技術開発に寄与している。高度な検知技術が登場しているがDeepfakesの技術進化は速く、半年から一年以内に完璧なDeepfakesが登場すると懸念されている。