アメリカ大統領選挙はバイデン氏が勝利宣言し、新しい時代の幕開けとなった。選挙期間中はフェイクイメージが有権者を混乱させると警戒していたが、予想に反し目立った被害はなかった。一方、AIで構成されたテレビ番組が始まり、初回はトランプ大統領家族が“出演し”、AIがリアルに描いたフェイクイメージが注目を集めている。

出典: Sassy Justice

Deepfakeで作られた番組

この番組は「Sassy Justice」という名前で、登場人物の顔はすべてAIで描かれる。世の中の不正を暴くことを使命とする主人公Fred Sassyが、ワイオミング州の州都シャイアンで活躍するというパロディーで、多くの著名人が登場するが、その顔はDeepfakeで生成されている。Deepfakeとは顔を置き換えるAIで、演技する俳優の顔を著名人の顔で置き換える。

トランプ政権の風刺

この番組は大統領選挙前にYouTubeに公開され、トランプ政権を風刺した内容となっている。トランプ大統領とニュースキャスターのインタビューがDeepfakeで再現された。実際の場面が描かれ、回答に困窮するシーンがクローズアップされた(下の写真)。顔はDeepfakeで生成されたものであるが、映像からそれが偽物であるとは分からない。しかし、受け答えや演技はコミカルで、フェイクビデオであることが分かる。

出典: Sassy Justice

ロシア政策のパロディー

この番組はトランプ一家が登場し、イヴァンカ・トランプ(先頭の写真)は記者会見で、「米国でDeepfakeが拡散している理由はロシアによるもの」との見解を示した。トランプ大統領はロシアによる情報操作は無いと主張するが、この番組でイヴァンカがこれを認めた形となっている。一方、ジャレッド・クシュナーは子供として登場し(下の写真)、Deepfakeの取り締まりを強化しているが、その目的は「パパが選挙で勝つため」と答える。

出典: Sassy Justice

映画スターの登場

トランプ家族の他にも著名人が登場し、女優ジュリー・アンドリュースは若いころの姿で、Deepfakeの検知技術を開発している研究者として描かれている(下の写真)。社会にDeepfakeが溢れる中、コンピュータ技術を使い、これを見抜く技法を開発している。しかし、それを使ってビデオ画像を判定するが、どうも上手くいかない。。。

出典: Sassy Justice

番組制作者

この番組は米国の人気アニメ「South Park」の監督・声優であるTrey Parkerらにより制作された。米国のトップ・プロデューサーが手掛けるDeepfakeは完成度が高く、映像からフェイクであることを見抜くことはできない。一方、音声は声優によるものであり、また、前述の通り、コミカルな演技から、Deepfakeを使ったコメディであることが分かる。

Deepfakeで番組を制作する目的

Trey Parkerはメディアとのインタビューの中で、このビデオを制作した理由はDeepfakeの危険性を分かりやすく伝えるためとしている。フェイクイメージが社会に広がり、人々は戦々恐々としているが、このビデオはコミカルにDeepfakeとは何かを説いている。同時に、完成度の高いDeepfakeのインパクトは強く、映画やテレビ番組でAIで顔を生成する手法が広がる兆しを感じさせる。

[Deepfake技術概要]

Deepfakeとは

Deepfakeは顔を置き換える技法で、実在の人物の顔を著名人の顔に置き換えるツールとして使われている(下の写真)。ある人物の顔写真(左端)を著名人の顔(中央、トム・クルーズ)に置き換えると、その人物の顔の部分だけがトム・クルーズになる(右端)。例えば、ビデオ撮影した自分の顔をトム・クルーズの顔に置き換えると、映画スターが映っている偽のビデオができる。

DeepFaceLab

この番組では「DeepFaceLab」というタイプのDeepfakeが使われた。DeepFaceLabはオープンソースとして公開されており、誰でも自由に使うことができる。DeepFaceLabは演技者の顔が鮮明に映ってなくても、高精度なDeepfakeを生成できるという特徴を持つ。(下の写真：DeepFaceLabで生成したイメージで、サングラスで目が覆われていても高精度なDeepfakeを生成できる。)

出典: Ivan Perov et al.