米国政府はAIやメタバースなど高度なテクノロジーから消費者の権利を守る方向に舵を切った。アメリカ連邦取引委員会(Federal Trade Commission、FTC)は、ゲーム開発会社Epic Gamesが、子供のプライバシーを侵害したとして、過去最大額の制裁金を科した。バイデン政権は、国民をAIの危険性から守るための章典「AI Bill of Rights」を発表した。米国政府は、自国の先進技術を優先する政策を取ってきたが、今年は国民の権利を守ることを重点とする方向に政策を転換した。

Epic Gamesへの制裁金

FTCは、人気ビデオゲーム「Fortnite」(上の写真)の制作者であるEpic Gamesが、児童オンライン保護法「Children’s Online Privacy Protection Act (COPPA)」に違反したとして、5億2000万ドルの制裁金を科した。COPPAとは1998年に制定された法令で、オンラインサービスで13歳以下の子供の個人情報を収集することを制限している。Epic Gamesのケースでは、保護者の同意を得ることなくFortniteをプレーした13歳以下の子供の個人情報を収集したことがCOPPAの規定に違反していると判定された。

制裁金の内訳

制裁金は、COPPAの規約に違反したことによる罰則金2億7500万ドルと、消費者への返金2億4500万ドルという、二つの部分から構成される。どちらもFTCが課した過去最大額の制裁金となる。前者はCOOPAの規約に違反したことによる罰則金で、後者は利用者が「ダークパターン(Dark Patters)」といわれる手法などで、意図に反して購入させられたアイテムに対する払戻金となる。

消費者を欺く手法

ダークパターンとは消費者を欺くデザインを総称する言葉として使われる。Fortniteだけでなく、ウェブサイトやオンラインサービスで導入されており、消費者を騙し、商品などを購入させることを目的としたデザインを指す。Fortniteのケースでは、ゲームのキャラクターに着せるアイテムを購入するサイトでダークパターンが使われている。アイテムを試着して、気に入らない場合には「Undo」ボタン(下の写真、左下のボタン)を押すと、購買を解約できる。しかし、この「Undo」ボタンが表示される時間は短く、気が付くとボタンが消滅し、不本意にアイテムを購入させられることになる。

Epic Gamesの主張

これに対してEpic Gamesは、FTCと和解した背景についてステートメントを発表した。これによると、COPPAは数十年前に制定された法令で、技術進化から取り残され、ゲームシステムの運用については規定していない。Epic Gamesはゲーム業界の慣行に従って、システムを開発しているが、法令は変わっていないが、FTCは新しい解釈を示した。Epic Gamesは、消費者保護を前面に打ち出して事業を展開しており、新たな解釈に従ってFTCと和解した。

子供向けのメタバース

Epic Gamesの創設者であるTim Sweeneyは、ゲーム企業からメタバース企業に転身すると述べ、ゲームエンジン上に仮想社会を構築し、メタバース事業を進めている。この仮想社会でコンサート(アリアナ・グランデのツアー)やカンファレンスなどのイベントが開催され、Epic Gamesはメタバース開発で業界をリードしている。また、Epic Gamesは、子供向けに安全なメタバースの開発を重点的に進め、LEGO Groupと提携して、子供や家族が楽しめる安全な仮想社会を開発している。

FTCとは

FTCはアメリカ連邦政府の独立機関で、反トラスト法に基づく不公正な競争の制限と、消費者保護の推進を任務としている。消費者保護では、個人のプライバシーや個人情報を保護することがミッションとなる。特に、AIの危険性から消費者を守ることを重点的に進めており、アルゴリズム利用に関するガイドラインを発表し、不公正な利用を法令で取り締まる指針を発表した。

バイデン政権

バイデン政権はAIを規制する方向に転じ、2022年10月、「AI Bill of Rights(AI権利章典)」を公開した。AI Bill of Rightsとは、米国政府のAI規制についての指針を示したもので、各省庁がそれぞれの実態に応じて、法令や規約を制定してAIの危険性から国民を守る。AI Bill of Rightsは、EUの「AI Act」に対応するもので、米国政府はAIを規制する方向に政策を転換した。

方針転換の背景

米国においてGAFAMなど巨大テックがAI新技術を生み出しており、今までは、規制よりイノベーションを優先する政策を取ってきた。しかし、バイデン政権はこの指針を見直し、米国市民の権利を優先することを選択した。欧州に比べ米国はAI規制が緩やかであったが、2023年からは、巨大テックやIT企業は責任あるAI開発が求められる。

米国の人気テレビ番組でセレブ三人がオペラを歌唱するシーンが放送され社会が騒然とした(下の写真)。これは”フェイクビデオ”で、オペラ歌手三人が歌うシーンをテレビカメラで撮影し、顔の部分だけをリアルタイムでセレブのものに置き換えた。完璧な偽物で、究極のDeepFakesが生まれ、テレビで全米に放送された。実際にこの番組を見ていたが、完成度の高さに衝撃を受けた。

リアリティ番組

これは「アメリカズ・ゴット・タレント(America’s Got Talent)」と呼ばれる番組で、様々なジャンルのパフォーマーの公開オーディションを放送するもので、アメリカ版「スター誕生」という位置づけになる。今週、三人のオペラ歌手がステージでアリア「誰も寝てはならぬ(Nessun dorma)」を歌い(上の写真下段)、それを三台のカメラで撮影し、合成した映像を大型モニターに映し出す(上の写真上段)構成となっていた。

顔をスワップ

映し出される映像は三人のオペラ歌手の顔をセレブの顔にスワップしたもので、審査員のサイモン・コーウェル(Simon Cowell、下の写真右端)、ホーウィー・マンデル(Howie Mandel、左端)、及び、司会者のテリー・クルーズ(Terry Crews、中央)がオペラを熱唱するシーンが生成された。DeepFakesの出来栄えは完璧で、本人が歌っているように映し出されたが、審査員たちは席に座っており、フェイクであることが分かる仕組みになっていた。

DeepFakes技術

この技術を開発したのはロンドンに拠点を置く新興企業Metaphysicで、高品質なコンテンツを生成するAIを開発している。特に、AIでアバターを生成する技術に着目しており、超リアルなデジタルツインを生成する。生成されるハイパーリアルなアバターは、３D仮想社会で使われ、メタバースを支える基礎技術を担っている。

偽のトム・クルーズ

Metaphysicは、これに先立ち、映画俳優トム・クルーズ(Tom Cruise)のハイパーリアルなDeepFakesを生成し、全米を驚かせた。ショートビデオとしてTikTokなどに掲載され、完璧な偽物のトム・クルーズを生み出した(下の写真)。実際に、ショートビデオを観ると、完璧なフェイクで、偽物であると聞かされて驚いた。これらのビデオはTikTokの「deeptomcruise」のサイトに掲載されている(リンク)。

シンセティック・メディア

AIが生成するアバターは「Synthetic Media」と呼ばれ、誰でも簡単に動画や音声を生成でき、プロ並みのコンテンツを生成できる。人間と見分けのつかないデジタル・ヒューマンが生まれており、エンターテイメントやプロモショーンで使われている。ニューヨークに拠点を置く新興企業SynthesiaはAIアバターを開発し、人間に代わりアバターがプレゼンテータとなり、商品を説明する。異なる種類のアバターが揃っており、企業はブランドイメージに沿ったアバターと言葉のアクセントを選ぶことができる(下の写真)。

シンセティック・ボイス

また、AIでボイスを生成する技術「Synthetic Voice」の開発が進み、品質が人間レベルに到達した。合成音声は自然で感情豊かなボイスとなり、人間の喋りと区別がつかなくなった。シアトルに拠点を置くAI新興企業WellSaid Labsは、AIによる音声合成技術を開発している(下の写真)。WellSaid Labsが開発する音声合成技術は「Voice Avatars」と呼ばれ、テキストを入力すると、それを人間のように滑らかなボイスに変換する。

人間の３Dフィギュア

ハイパーリアルなアバターと音声が生成されているが、次のゴールはAIで人間の３Dフィギュア全体を生成することにある。例えば、トム・クルーズのフェイクビデオをすべてAIで生成する技術がAI研究開発の一番ホットなテーマとなっている。上述のDeepTomCruiseが完璧なのは訳があり、トム・クルーズのそっくり俳優が演じたビデオを使っているからである。そっくりさんの顔の部分だけを本物の顔にスワップしている。そっくり俳優がトム・クルーズのように振る舞い、声も本人と見分けがつかない。そっくり俳優が演じる部分をAIで生成することが次の目標で、大学や企業で研究開発が進んでいる。

Nvidiaは、今週、コンピュータグラフィックス学会「SIGGRAPH 2022」で、メタバースに関連する技術を発表した。公開された技術は、アバター技術、メタバース開発技術、AIグラフィック技術で、これらが３D仮想社会を生み出すプラットフォームとなる。SIGGRAPHはメタバースとの関連が深く、ここで３DグラフィックスやAIグラフィックスの最新技術が発表された。

アバターを開発するクラウド

Nvidiaはメタバース関連技術の中で、アバターの開発を重点的に進め、最新モデル「Avatar Cloud Engine (ACE)」を発表した。ACEとはクラウドベースのAIモデルで、実物と見分けのつかない高精度なアバターやデジタルヒューマンを開発するための基盤となる。企業はACEを使い、リアルなアバターを生成し、メタバースにおいて人間に代わるアシスタントとして利用する。アバターはゲームや映画の中のキャラクターとして使われるだけでなく、銀行のテラーやホテルのレセプショニストとして活躍する。

アバターの機能

アバターは外観が人間そっくりであることに加え、高度な言語能力を備え、言葉でインタラクティブに応対する(上の写真)。人間が話しかけると、アバターはそれに返答し、両者間で会話が進む。アバターが話すときは、口がそれに同期して動き、顔の表情が変わる。また、英語だけでなく、日本語やフランス語(下の写真)など、多言語で会話できる。更に、アバターは会話のシチュエーションを理解し、それに応じた受け答えをする。

アバターを生成する仕組み

Nvidiaはアバター生成の基礎技術として「Audio2Face」を開発した。これはオーディオを入力すると、ニューラルネットワークが３Dのアニメーションを生成する仕組みとなる(下のグラフィックス)。入力された言葉に従って、それを喋る３Dアバターが生成される。アバターはリアルタイムで生成されるため、人間と対話するモデルで使うことができる。

感情の表現

SIGGRAPHではその最新モデルとして、感情を表現できるアバターが公開された。これは「Audio2Emotion」と呼ばれ、入力されるオーディオの感情を読み取り、ニューラルネットワークはそれに合わせたアバターを生成する。例えば、入力オーディオが「自分がどこにいるのか分からない！」という怒りを込めた言葉であると、AIは怒っている表情のアバターを生成する(下の写真、ビデオへのリンク)。

アバターの利用方法

生成されるアバターは３D仮想社会で人間に代わり様々なタスクをこなす。Nvidiaはそのリファレンスモデルとして「Toy Jensen」を公開した。これはCEOであるJensen Huangをモデルにしたフィギュアで、難しい質問に回答する大学の先生として機能する(下の写真)。また、アバターはレストランのモニターで、顧客と対話しながらメニューを紹介する。更に、アバターは自動運転車に搭載され、コンシェルジュとして、ドライバーと対話しながら道案内をする。

AIで構成されるアバター

ACEで生成されるアバターは、高精度な３Dレンダリングに加え、人間と自然な会話ができるよう、多彩なAIが組み込まれている。人間が話す言葉を理解し、アバターはそれに対する返答をリアルタイムで生成し、会話を続ける。また、AIはアバターの顔の表情や手の動きなど、アニメーションを生成する。具体的には、ACEが提供するAI機能は次の通り：

• Riva：会話のためのAI
• Metropolis：ビデオ解析のAI
• Merlin：推奨エンジン
• NeMo Megatron：大規模言語モデル
• Omniverse：メタバースの開発環境

メタバース開発でリード

多くの企業がメタバースを開発しているが、高精度な３D仮想社会を生成する技法が、ビジネス成功のカギとなる。Nvidiaはこの開発環境を「Omniverse」として提供しており、メタバース開発で業界標準のツールとして認識されている。メタバースでは、利用者のデジタルツインであるアバターを介して交流が進み、如何に精巧なモデルを生成できるか、各社が競い合って技術開発を進めている。Nvidiaはアバター開発でも業界をリードしており、人間と見分けのつかない、精巧で知的なデジタルツインを生み出している。