2016年の米国大統領選挙はFacebookを通じてフェイクニュースが拡散し社会が混乱した。この背後にはロシアの情報操作があり、フェイクニュースがトランプ大統領誕生の理由とまで言われる。2018年は米国中間選挙の年で、今年はAIを悪用したフェイクビデオが世論を操作すると懸念されている。

出典: BuzzFeed

フェイクビデオとは

フェイクビデオとは悪意を持って改造されたビデオで、AIが現実に存在しない映像をリアルに描き出す。実際に、オバマ前大統領が星条旗の前で演説しているフェイクビデオが登場した。オバマ前大統領は「誰でも好きなことが言える時代となった」と述べ、演説が始まる (上の写真、左側)。しかし、途中で「トランプ大統領は完全に無能な輩 (Dipshit)」と語り、自分の耳を疑った。オバマ前大統領のショッキングで下品な発言に驚いていると、映画監督で俳優であるJordan Peeleが登場した (上の写真、右側)。

意のままにスピーチさせる技法

実は、このビデオは改造されたもので、Peeleが喋っている通りにオバマ前大統領が喋っていることが分かった。ビデオ映像はリアルで、言葉通りにオバマ前大統領の唇が動いており、Peeleが登場するまでフェイクビデオとは分からなかった。ビデオの声はPeeleのものであるが、同氏はオバマ大統領の物まねが得意で、声でも見分けがつかなかった。この事例はオバマ前大統領のビデオを改造し、意のままにスピーチさせる技法で、重大な危険性を感じさせるビデオである。これはニュースサイトBuzzFeedとJordan Peeleが共同で制作したもので、フェイクビデオの危険性を啓もうする目的で作成された。

映画スターの顔を置き換える

フェイクビデオが社会問題になっているが、その技法は「DeepFake」と呼ばれている。DeepFakeはAIを使い、写真やビデオの中に登場する人物の顔を、別の顔と置き換える技法。置き換えられた顔はリアルで、偽造されたビデオだとは気が付かない。映画GoldfingerのSean Conneryの顔を人気俳優Nicolas Cageで置き換えたビデオが公開されている (下の写真、上段)。映画のシーン (下段左側) で、顔の部分だけをNicolas Cage (下段右側) で置き換えたもの。短いビデオとなっており、たばこにライターで火をつける一連の動きを見ることができる。

出典: Derpfakes (上段)、YouTube Movies (下段左)、Wikipedia (下段右)

トランプ大統領の顔を置き換える

トランプ大統領やプーチン大統領など、大物政治家がフェイクビデオの対象となっている。俳優Alec Baldwinはトランプ大統領の物まねで人気を得て、娯楽番組の政治風刺コメディで活躍している。トランプ大統領に扮するBaldwin (下の写真、左側) の顔を、DeepFakeの技法で、本物のトランプ大統領の顔と置き換えたビデオ (下の写真、右側) が話題となっている。ここでも、Baldwinが喋るとおりに、偽造されたトランプ大統領が喋る構成になっている。偽物の大統領は本物と見分けがつかず、フェイクビデオが悪用されるとその影響は甚大だ。

出典: Derpfakes

映画スターが被害にあう

DeepFakeが社会問題となり、その危険性が認識されたのは、あるポルノ映画が切っ掛けであった。ポルノ女優の顔を映画スターの顔で置き換えたフェイクビデオがネットに掲載され、社会に衝撃を与えた。映画Wonder Womanを演じたイスラエルの女優Gal Gadotの顔がポルノビデオの中で使われた。Gadotがポルノ映画に登場したと思われ、顔を置き換えることの危険性がはっきりと認識された。この他に、Emma Watson、Katy Perry、Taylor Swiftなどが被害にあった。

DeepFakeとは

DeepFakeはAIを組み込んだソフトウェアで、写真やビデオの中に登場する人物の顔を、別の顔と置き換える機能を持つ。基礎技術について論文が発表され、その成果が公開されている (下の写真)。

出典: Iryna Korshunova et al.

これはオリジナルの写真の顔 (最上段) を、Nicolas Cageの顔 (下から二段目) と Taylor Swiftの顔 (最下段) で置き換えたもの。その結果がそれぞれ、二段目と三段目に示されている。左端は女優Jennifer Anistonの顔を、Nicolas CageとTaylor Swiftで置き換えたもの。拡大して見ると、Anistonの眼、鼻、唇、眉毛、顔のしわなどが、CageとSwiftのものと置き換わっている。一方、顔の向き、視線、唇の表情、髪は元の顔を踏襲している。つまり、顔の表情はオリジナルのままで、各パーツが置き換わっていることが分かる。

Deep Learningの手法

DeepFakeはDeep Learningの手法で顔を学び、両者の顔を置き換える技法を習得する。具体的には、Convolutional Neural Networksが、元の顔と置き換える顔の特徴を学び、それらをスワップする。教育のために両者の顔写真を大量に入力し、アルゴリズムは顔と特徴と置き換えるプロセスを学習する (下の写真)。アプリはCUDA (Nvidiaの開発環境) で稼働し、プロセッサとしてNvidia GPUが必要となる。大規模な計算量が発生するが、パソコンにNvidiaグラフィックカードを搭載した構成で実行できる。ハリウッドの特撮を誰でも簡単に行える時代となった。

出典: Derpfakes

DeepFake制作者

顔を置き換えるアルゴリズムは学術テーマとして大学などで研究が進んでいる。DeepFakeは研究成果をソフトウェアの形で公開したもので、それが悪用され社会問題となってる。具体的には、ソーシャルニュースRedditのユーザ「derpfakes」により開発され、その成果 (上述のポルノ映画フェイクビデオ) がRedditに公開され、社会を驚かせた。その後、derpfakesはこのソフトウェアを公開し、誰でも利用できるようになった。更に、Redditの別のユーザ「fakeapp」が使いやすいツールを開発しGithubに公開したため、普及が一気に進んだ。

DeepFakeの問題点

DeepFakeを悪用すると、実物と見分けのつかないフェイクビデオを簡単に制作できる。トランプ大統領が北朝鮮を軍事攻撃したと発表するフェイクビデオを作ることができ、社会に与える影響は甚大である。既に、編集ツールAdobe Photoshopを使って写真やビデオが改ざんされている。DeepFakeの危険性はAIで、素人でも手軽にフェイクビデオを作れることだ。Photoshopでは専門家が手作業でビデオを改ざんするが、DeepFakeはこのプロセスを自動化し、フェイクビデオの危険性が現実のものとなった。

フェイクビデオ対策は難しい

大統領選挙ではFacebookを通してフェイクニュースが拡散したが、今年の中間選挙ではフェイクビデオが使われると懸念されている。これに対して、FacebookはAIでヘイトスピーチを検知すると表明したが、技術が完成するまでに5-10年かかる。他の企業もフェイクビデオを検知する技術の開発には数年を要するとみており、中間選挙では有効な手立てがないのが実情である。

自ら身を守る

そのため有権者や市民は自ら身を守ることが必要となる。ビデオを見るときは、全面的に信用するのではなく、疑ってみることがポイントとなる。直感的におかしいと感じる時は、別のソースで情報を確認するなど、自衛手段が必要となる。フェイクニュースの轍を踏まないように少し賢くなることが求められている。