カテゴリー別アーカイブ: Facebook

Facebookが連邦政府公聴会で証言、米国が暗号通貨Libraを規制すると中国が世界の金融システムを支配する

Facebookは発行を計画している暗号通貨Libraについて米国連邦議会で証言した。上院と下院の委員会で議員の質問にFacebookが回答する形式で進み、LibraとFacebookについて厳しい意見が相次いだ。Facebookは議会の理解を得るまではLibraを発行しないと明言したが、同時に、米国がデジタル通貨の開発を制限すると中国が金融システムを支配すると警告した。

出典: U.S. Senate Committee on Banking, Housing, and Urban Affairs  

米国連邦議会の公聴会

暗号通貨Libraに関し各国政府や金融機関の懸念が広がる中、米国連邦議会は2019年7月16日と17日の両日、公聴会を開催しLibra責任者であるDavid Marcusに証言を求めた(上の写真)。上院銀行委員会(Senate Banking Committee)と下院金融委員会(House Financial Services Committee)で議員からFacebookの姿勢とLibraの安全性が厳しく問われた。質疑応答を通して、Libraの概要が明らかになり、また、議会が問題視しているポイントが明確になった。(公聴会の様子は各委員会がウェブサイトに公開している。)

米国がデジタル通貨のルールを制定

Libraという新しい金融サービスに各国政府が戸惑っている中、Facebookは米国が世界に先駆けデジタル通貨に関する指針を示すことが必要との見解を示した。また、Libra Association(Libraの運営組織)をスイスに設立した理由は、米国政府の規制を逃れるためではなく、世界の金融組織がここに集まっているためであると説明した。

Libraのビジネスモデル

FacebookはLibraを運営してどう事業を構築するのか、そのビジネスモデルを説明した。Facebookは27億人の会員があり、9000万社がFacebook上で事業を展開している。企業がこれら会員を対象に事業を展開し、買い物の支払いにLibraが使われると事業規模が拡大する。これにより、企業はFacebookに広告を掲載し、広告収入が増えると見込んでいる。これが当面の事業計画であるが、その後は銀行などと提携し金融サービスの提供を検討している。

Facebookの信用問題

FacebookはCambridge Analyticaによる個人データの不正使用に関し50億ドルの制裁金を米連邦取引委員会(Federal Trade Commission)に支払うことで合意した。議員からFacebookが個人情報管理という問題を解決できないまま、なぜ暗号通貨という難しい事業に手を出すのか厳しく問われた。Libraはどのように個人情報を守るのかについて質問が集中した。

個人情報はCalibraに留まる

これに対しFacebookはCalibraで収集したデータをFacebookが共有することはないと回答。CalibraとはFacebookの子会社で同名のデジタルワレット(下の写真)を運用する。多くのデジタルワレットが登場する予定で、Facebookはその一社にすぎず、他社とともに責任をもって運営される。具体的には、消費者がFacebookでCalibraを使って買い物をすると、会員データや購買データはCalibraが管理する。Calibraは別会社でこれらデータはFacebookに渡ることはなく、Libraのトランザクション情報をFacebookが広告などに使うことはないと説明した。

出典: Calibra  

Libraを使った不正送金

委員会のLibraに関する懸念はLibraが不正送金の手段となるという点に集中している。公聴会に先立ち、連邦準備制度理事会(FRB)議長Jerome Powellもこの懸念を表明している。米国政府はイランや北朝鮮に経済制裁を科しているが、Libraによる送金手段がその抜け道になると懸念されている。また、テロリストや麻薬密売などでLibraが使われる可能性も指摘された。既に、Bitcoinのトランザクションの殆どがマネーロンダリングで使われているとの報告もあり、FacebookはLibraを使った不正送金をどう防ぐかが問われた。

Facebookがやらないと中国が手掛ける

Facebookは、米国政府がこれらの問題を回避するためLibraを規制すると暗号通貨の開発が停滞し、別の勢力(固有名称は示されなかったが中国を指す)が暗号通貨を開発し、世界に二つの金融ネットワークが造られると警告した。インターネットが二種類存在すると世界が混乱するように、金融ネットワークが二種類誕生すると経済の発展が阻害される。そもそもブロックチェインでのトランザクションを金融当局は管理できないため、その上で稼働するアプリケーションであるLibraを正しく規制し、世界の基軸ネットワークとすべきと主張した。

出典: Calibra  

Facebookが通貨を発行すべきでない

公聴会に先立ち、トランプ大統領はBitcoinやLibraについて批判的な見解をツイートしている。Bitcoinなど暗号通貨は本当のお金ではないとし、Libraは仮想通貨であり、Facebookが銀行になりたいなら認可(Banking Charter)を受けるべきとの見解を示した。議員からもなぜFacebookがデジタル通貨を発行するのかとの質問が出された。

Libraは通貨ではなく送金手段

これに対してFacebookは、多くの懸念があることを見越して事前にLibraホワイトペーパーを発行した。関係機関がLibraに関する懸念を払しょくするまではFacebookは暗号通貨事業を始めないことを明言した。更に、Libraは通貨ではなく送金手段であることを改めて説明した。海外送金では通常7%の手数料がかかり、3-4日の時間を必要とするが、Libraは無料で即時に送金できる。インターネット上で少額資金を送金する構想は早くから議論されてきたが、Libraがこれを始めて実現したと説明した。

Facebookの警告

Facebookは米国で暗号通貨の開発が停滞すると中国が金融ネットワークを支配すると警告し、Libra事業を進める意義を強調した。これはFacebookの脅しであるが、同時に、世界の情勢でもある。中国の中央銀行である中国人民銀行(People’s Bank of China)はLibraを注視しており、Libraが成功すると世界の金融システムに重大な影響を及ぼすと発言している。

世界で暗号通貨の開発が進む

中国人民銀行はBitcoinなど暗号通貨の研究でトップを走り、Libraに対抗する技術を開発するとみられている。また、カナダやノルウェーやスェーデンなども中央銀行が暗号通貨の開発を進めているとの報告もあり、主要国で暗号通貨が運営される日は遠くない。もう後戻りすることはできず、今までに経験したことのない技術に対し、消費者保護とイノベーションのバランスを取った規制が求められる。

Facebookは暗号通貨Libraを投入、Bitcoinとは異なり世界が注目する理由

Facebookの暗号通貨「Libra」が世界で波紋を起こしている。同じ暗号通貨でもBitcoinは投機目的に使われ値動きが激しい。Libraは暗号通貨の欠点を改良し、金融決済に使うことを目的としてデザインされている。Bitcoinは資金洗浄やハッキングを連想させ暗いイメージがあるが、Libraは暗号通貨の優等生を目指す。Libraが幅広く普及すると予測され、FacebookはSNSの次は金融ネットワークで世界を制覇すると恐れられている。

出典: The Libra Association

Libraとは

Facebookは2019年6月、暗号通貨(Cryptocurrency)である「Libra」を発表した。LibraはGenova(スイス)に拠点を置く独立団体「Libra Association」により運営される。ここにはFacebook子会社「Calibra」の他にMastercardやPayPalなど28団体が加盟している(上の写真)。現在、ソフトウェア「Libra Core」の開発が進められ、2020年からLibraの運用が始まる。

Libra設立の目的

FacebookはLibraを創設した理由を「Reinvent Money」としている。お金を取引するインフラをゼロから開発し、メッセージを送受信するように、簡単に送金できる仕組みを作る。国を跨り送金するには時間と手数料がかかるがこのプロセスを簡便にする。また、金融インフラの整っていない途上国でLibraがその役割を担う。

Libraの特徴

Libraは暗号通貨で独自のブロックチェイン「Libra Blockchain」で運営される。暗号通貨はデジタル通貨(Digital Currency)の一種でブロックチェインで安全に運用される。ブロックチェインとはP2Pネットワークで、トランザクションデータを各ノードに保存し、論理上データを改ざんすることは不可能で、不正行為ができないとされる。Bitcoinは不特定多数の団体や個人がノードを運営するが、Libraは上述の参加企業がノードを管理する構造で、セキュアに運用できる仕組みとなっている。

Stablecoinという特性

Libraの最大の特徴は暗号通貨の中でも「Stablecoin」としてデザインされていることだ。Stablecoinとは価格変動を最小限に抑えた暗号通貨で、Libraのケースでは通貨でその価値を裏付けする(Fiat-Backed Stablecoin)。具体的には、消費者がLibraを購入すると、発行元(Libra Association)はそれと同額の通貨を購入する。通貨はドルや円など主要通貨で、これをバスケット(Libra Reserve)に入れて運用する。この仕組みによりLibraの価値を長期にわたり保つことができ、交換レートが大きく変動することはないとされる。

Libraの使い方

Libraはスマホのデジタルワレットから利用する。多くのアプリが登場するが、Facebookからは「Calibra Wallet」というデジタルワレットが提供される(下の写真)。アプリには残高(163.20LBR)や、ドルとの換算レート(1 LBR = 1.0493 USD)が表示される。送金するには相手のアドレスと金額をドルで指定する。メッセージを添えて「Send Now」ボタンを押すと送金される。送金手数料は無料となる。 

出典: The Libra Association

Libra利用のプロセス

Libraを使って買い物をするとその背後でプロセスは次のように進む。まず、LibraはLibra Associationによって生成(Mint)される。Libra AssociationはLibraを生成できる唯一の組織で、それを再販企業(Reseller)を通じて流通させる。消費者はデジタルワレット(Facebookの場合はCalibra)をダウンロードしてLibraを使う。消費者は上述の再販企業からLibraを購入する。

出典: The Libra Association

これで消費者はオンラインサイト加盟店でLibraを使って買い物ができる。例えば、eBayで買い物をしてその代金をLibraで支払うことができる。一方、eBayは受け取ったLibraを再販企業でドルに交換する。更に、再販企業はLibra AssociationでLibraを通貨に交換すると、Libra AssociationはLibraを廃棄(Burn)し、一連のプロセスが終了する。

Libra Blockchainとは

Libraは独自のブロックチェイン(Libra Blockchain)で運用される。Libra Blockchainは当初は「Permissioned」方式で運用される。これは、特定団体(このケースではLibra Association)がネットワークへのアクセスや運用を制御する方式を指す。また、ネットワークのノード(Node)はLibra Association創設メンバーにより運用される。つまり、ブロックチェインであるが、その運用は参加企業に限られ、閉じられたネットワークとなる。

Bitcoinとの違い

一方、Bitcoinは「Bitcoin Foundation」が基本方針を決めるが、その運営は分散型で中央組織が制御する方式はとっていない。Bitcoinは「Deflationary Currency」という特性を持ち、生成されるBitcoinの量が次第に少なくなり、発行量は2100万Bitcoinで打ち止めとなる。一方、Libraは需要と供給により発行される量が決まる。また、Bitcoinは「Permissionless」というアーキテクチャで、誰でも自由にMinerになりMiningできる。Minerがネットワークのノードを維持運営するわけで、不特定多数の個人や団体がシステムを支える。Libraは当初はPermissioned方式で運営するが、将来はPermissionless方式に移行するとしている。

Internet of Money

このようにBitcoinと比較するとLibraの特性が際立つ。Libraは暗号通貨であるが閉じたネットワーク(Libra Blockchain)でシステムへのアクセスを制限し安全に運用される。また、Libra Reserveという方式で、発行されたLibraの価値がドルや円などで支えられ値動きが安定する。Bitcoinは値動きが激しく投機目的で使われるが、Libraは少額決済(Micro Transaction)を目的に安定した運用を目指す。インターネットでデータが自由に行き交うが、Libraは通貨でこれを実現し、Internet of Moneyとなることを目標に設計された。

フェイスブックは知的なAIを開発、AIがニューヨークで観光案内をしながら人間の言葉を学ぶ

AIの自然言語機能が向上し、クールな仮想アシスタントの登場が相次いでいる。しかし、本当に役に立つ仮想アシスタントを開発するためには、AIはインテリジェントになり、人間のように言葉の意味を理解する必要がある。フェイスブックはこのテーマに取り組み、AIが実社会に接して一般常識を身に付け、人間のように言葉を理解する研究を進めている。

出典: Facebook AI Research

Talk the Walk

フェイスブックAI研究所 (Facebook AI Research)はこのテーマに関し、論文「Talk the Walk: Navigating New York City through Grounded Dialogue」を発表した。AIが街に出て、実社会とのインタラクションを通し、インテリジェンスを習得する技法を示している。二つのAI (Agent) が生成され、ガイドのAgentが観光客のAgentに言葉で道案内をする。このタスクは「Talk the Walk」と呼ばれ、会話を通し、ガイドのAgentが道に迷った観光客のAgentを目的地まで案内する (上の写真、右側は両者の会話で、左側は観光客が見ている風景)。

自然言語解析技法の進化

AIの登場で自然言語解析技法が飛躍的に進化した。特に、機械翻訳(Machine Translation)と言葉の理解(Natural Language Understanding)に関し、AIは飛躍的な進化を遂げ、我々の暮らしを支えている。しかし、AIは翻訳や会話ができるようになったが、アルゴリズムは言葉の意味を理解しているわけではない。AIは言葉の意味を理解しないまま、人間を模倣して会話しているに過ぎない。

教育手法が間違っている

AIが知的になれない理由は教育手法にあり、アルゴリズムは大量のテキストデータで教育され、統計手法に基づき翻訳や対話をするためである。フェイスブックは知的なAIを開発するには、社会の中で環境や他の人と交わりながら言葉を学習することで、アルゴリズムは言葉の意味を理解し、言葉を話せるようになると主張する。

道案内のタスク

フェイスブックAI研究所は、言葉を環境と結びつける手法でAIを教育する研究を進めている。Talk the Walkが教育モデルとなり、ニューヨーク市街地で、二つのAgent (ガイドと観光客)が会話しながら、目的地を目指すタスクを実行する。ガイドはマップを見て目的地を把握できるが、観光客の場所は分からない (下の写真右側)。一方、観光客はマップを見ることはできないが、周囲360度の風景を見ることができる (下の写真左側)。ガイドは観光客と会話しながら目的地まで誘導する (下の写真中央部の吹き出し)。つまり、道に迷った観光客が案内所に電話して、目的地までの道順を聞いている状態を再現した形となる。

出典: Dhruv Batra et al.

マップを作成

研究チームはこのタスクを実行するために、ニューヨークの五つの地区を選び、それらのマップを生成した。マップには360度カメラで撮影した映像 (ストリートビュー) が組み込まれ、観光客は交差点の四隅で周囲の風景を見ることができる (上の写真左側、矢印にタッチするとその方向の風景を見ることができる)。更に、写真に写っているランドマーク (バーや銀行や店舗など) には、それが何であるかがタグされている。一方、ガイド向けには2Dのマップが用意され、ここに道路とランドマークが記載されている (上の写真右側)。

ガイドが目的地まで誘導

タスクはシンプルで、マップの中の観光客と対話しながら、ガイドが目的地まで誘導する。観光客はストリートビューを見て、目の前にあるランドマークをガイドに報告する。ガイドはこの情報を手掛かりに、観光客の現在地を把握し、目的地まで道案内をする。ガイドが観光客は目的地に着いたと確信した時点で道案内が終了する。システムは観光客が本当に目的地に到着したのかを検証し、一連のタスクが終了する。

ガイドと観光客の会話

ガイドと観光客は次のような会話を交わしながら目的地を目指す:

ガイド:近くに何がある?

観光客:正面にBrooks Brothers

ガイド:交差点の北西の角に行け

観光客:背後に銀行がある

ガイド:左に曲がり道を直進

観光客:左側にRadio Cityが見える

・・・

観光客が目的地に到達するまでこのような会話が続く。

位置決定モデル

ガイドが観光客を案内するためには、まず観光客の位置を把握する必要がある。観光客は目の前の風景を言葉でガイドに伝え、対話を通じてガイドは観光客の位置を把握する。このタスクを実行するために位置決定モデル「Masked Attention for Spatial Convolutions (MASC)」が開発された。MASCは風景の描写を言葉で受け取り、それを位置情報に変換する機能を持つ。

判定精度の評価

ニューヨーク市街地でMASCを試験してその性能を評価した。MASCの判定精度は高く、88.33%をマークし(下のテーブル三段目)、人間の判定精度76.74%を上回った(下のテーブル二段目、実際に人間同士がこのタスクを実行した)。但し、AIのケースでは人間の言葉は使わないで、特別な言語モデル(Emergent Communication)が使われた。この方式ではAIが生成する生データでAI同士が会話した。

一方、AIが人間の言葉を使って会話すると判定精度は50.00%に低下した(下のテーブル最下段)。この評価結果から、人間の言語は情報を正確に伝えるためには適した構造とはなっていないことも分かる。

出典: Dhruv Batra et al.

この研究の意義

Talk the WalkはAIが言語を学習するためのフレームワークを提供する。この方式は「Virtual Embodiment」とも呼ばれる。これは、複数のAgentが、生成された環境の中で、体験を通し、言葉の意味を学習する手法を指す。Talk the Walkはこのコンセプトに基づくもので、知覚(Perception)、行動(Action)、会話(Interactive Communication)機能を、AIが社会とのインタラクションを通して学習する。

AIに課された命題

上述の通り、AIが人間の言葉を使ってコミュニケーションすると、意思疎通の精度が大きく低下することも明らかになった。人間が使う言葉は曖昧さが多く、コミュニケーションツールとしては不完全であることが改めて示された。つまり、AIに課された命題は、言語という不完全なコミュニケーションツールから、厳密に意味を把握することにある。このためには、人間がそうしてきたように、AIも環境に接し言語を学ぶ努力が必要になる。Talk the Walkはオープンソースとして公開されており、AIが言語を学習するための環境を提供する。

フェイスブックは家庭向けロボットを開発!?ロボットの頭脳に人間の常識を教える

ロボティックスに関するカンファレンス「RE•WORK Deep Learning in Robotics Summit」がサンフランシスコで開催された (下の写真)。ロボットの頭脳であるDeep Learningにフォーカスしたもので、OpenAIやGoogle Brainなど主要プレーヤーが参加し、基礎技術から応用技術まで幅広く議論された。

出典: VentureClef

Embodied Vision

フェイスブックAI研究所 (Facebook AI Research) のGeorgia Gkioxariは「Embodied Vision」と題して最新のAI技術を紹介した。Embodied Visionとは聞きなれない言葉であるが、Computer Visionに対比して使われる。Computer Visionがロボット (Agent) の視覚を意味することに対し、Embodied Visionはロボットの認知能力を指す。ロボットが周囲のオブジェクトを把握するだけでなく、人間のようにその意味を理解することに重点が置かれている。

Learning from Interaction

フェイスブックAI研究所はこの命題にユニークな視点から取り込んでいる。Gkioxariは、AIを人間のようにインテリジェントにするためには、「Learning from Interaction」が必要だと主張する。これは文字通り、インタラクションを通じて学習する手法を意味する。いままでにAIはデータセットからComputer Vision習得した。例えば、写真データセット「ImageNet」から猫や犬を判定できるようになった。これに加え、AIは環境 (Environment) のなかで、モノに触れて、その意味を学習することが次のステップとなる。Gkioxariは、赤ちゃんが手で触ってモノの意味を学ぶように、AIもインタラクションを通じ基礎知識を学習する必要があると説明した。

仮想環境を構築

このため、フェイスブックAI研究所は、AI教育のために仮想環境「House3D」を開発した。これは住宅内部を3Dで表現したもので、ロボットがこの中を移動しながら常識を学んでいく。ロボットが移動すると、目の前のシーンが変わっていくだけでなく、シーンの中に登場するオブジェクトには名前が付けられている。つまり、ロボットは仮想環境の中を動き回り、オブジェクトに接し、これらの意味を学習する。ロボットは異なるタイプの部屋からキッチンの意味を把握し、そこに設置されているオーブンや食器洗い機などを学んでいく (下の写真)。

出典: Georgia Gkioxari

学習方法

フェイスブックAI研究所は三つの視点からロボットを教育する。ロボットが仮想環境の中で、モノを見て言葉の意味を学習する。これは「Language Grounding」と呼ばれ、ロボットは環境の中でモノと名前を結び付ける (部屋の中で長い緑色のロウソクをみつけることができる)。二番目は、ロボットは家の中で指定された場所に移動する。これは、「Visual Navigation」と呼ばれ、ロボットは家の中の通路を辿りドアを開け、指定された場所まで移動する (寝室に行くように指示を受けるとロボットはそこまで移動する)。

EmbodiedQA

三つめは、ロボットは質問を受けると、家の中を移動してその解を見つけ出す。これは「EmbodiedQA」と呼ばれ、ロボットは回答を見つけるために仮想環境の中を移動する。従来のロボットはインターネット上で答えを見つけるが、EmbodiedQAは物理社会の中を移動して解を求める。例えば、「自動車は何色?」という質問を受けると (下の写真左側)、ロボットは質問の意味を理解し、家の中で自動車を探し始める。自動車はガレージに駐車されているという常識を働かせ、家の中でガレージに向かって進む。ロボットはその場所が分からないが、ここでも常識を働かせ、ガレージは屋外にあると推測する。このため、ロボットは玄関から屋外に出て、庭を移動し、ガレージにたどり着く。そこでロボットは自動車を発見し、その色が「オレンジ色」であることを把握する (下の写真右側)。

出典: Georgia Gkioxari

必要な機能

このタスクを実行するためには、ロボットの頭脳に広範なAI技法が求められる。具体的には、視覚(Perception)、言葉の理解(Language Understanding)、移動能力(Navigation)、常識(Commonsense Reasoning)、及び言葉と行動の結びつき(Grounding)が必要になる。Gkioxariの研究チームは、前述の3D仮想環境「House3D」でEmbodiedQAのモデルを構築しタスクを実行することに成功した。

ロボットの頭脳

このモデルでロボットの頭脳はPlannerとControllerから構成され (下の写真)、Deep Reinforcement Learning (深層強化学習) の手法で教育された。Plannerは指揮官で、進行方向(前後左右)を決定し、Controllerは実行者で、指示に従って進行速度(ステップ数)を決定する。PlannerはLong Short-Term Memory (LSTM) というタイプのネットワークで構成され、上述の通り、これをDeep Reinforcement Learningの手法で教育する。Plannerは人間のように試行錯誤を繰り返しながら常識を習得する。

出典: Georgia Gkioxari

知的なAIの開発は停滞

フェイスブックAI研究所は、これらの研究を通して、インテリジェントなロボットの開発を進めている。AIが急速に進化し、イメージ判定では人間の能力を上回り、囲碁の世界ではAIが人間のチャンピオンを破り世界を驚かせた。AIの計り知れない能力に圧倒されるが、AIは知的というにはほど遠い。AIはオブジェクト(例えば猫)の意味を理解しているわけではなく、また、囲碁という限られたタスクしか実行できない (例えばAlphaGOはクルマを運転できない)。いまのロボットは人間のように家の中を移動することさえできない。つまり、人間のようにインテリジェントに思考できるAIの開発はブレークスルーがなく滞ったままである。

精巧な仮想環境

このため、フェイスブックAI研究所は、全く異なるアプローチでAIを開発している。実社会を模した3D仮想環境の中でAIを教育し、この中でAIが複雑なタスクを自ら学んでいくことを目指している。AIが実社会の中で学習することで、人間のような視覚を持ち、自然な会話ができ、次の計画を立て、知的な思考ができるアルゴリズムを開発する。このためには、実社会そっくりな仮想環境が必要で、家の中を写真撮影したように忠実に描写した3D環境を開発している。同様にOpenAIやGoogle DeepMindもこのアプローチを取っており、精巧な仮想環境でDeep Reinforcement Learningの開発競争が激化している。

フェイスブックがロボット開発

ロボットの頭脳が知的になることで、人間の暮らしが根本的に変わる。フェイスブックは仮想アシスタント「M」を開発してきたが、製品としてリリースすることを中止した。Mはホテルのコンシェルジュのように、どんな質問にも答えてくれる仕様であったが、人間との会話トピックスは余りにも幅が広く、AIはこれに対応できなかった。また、フェイスブックはAIスピーカーを開発しているとも噂されている。Embodied Visionは仮想アシスタントやAIスピーカーを支える重要な基礎技術となる。更に、この研究が上手く進むと、家庭向けロボット開発のロードマップが見えてくる。フェイスブックがインテリジェントな家庭向けロボットを開発するのか、市場の注目が集まっている。

FacebookはAIでフェイクニュースを取り締まる、(トランプ大統領誕生の悲劇を繰り返さないために)

米国大統領選挙でFacebookを介してフェイクニュースが拡散し世論が操作された。発信元はロシアで、この結果トランプ氏が当選したとも言われている。Facebookは対策が不備であったことを認め、AIを駆使したフェイクニュース対策を発表した。米国だけでなく欧州やアジアでも、フェイクニュースによる世論操作が顕著になっている。

出典: Facebook

Facebook開発者会議

Facebook CEOのMark Zuckerbergは2018年5月1日、開発者会議F8で選挙対策、フェイクニュース対策、データプライバシー対策など、プラットフォームの安全性を強化するための基本指針を発表した (上の写真)。2016年の米国大統領選挙では対応が不十分で、ロシアによるフェイクニュースが拡散し、これが選挙結果に大きく影響したことを認めた。この教訓を踏まえ、AIやMachine Learning (機械学習) やComputer Vision (画像解析) を活用し、不適切な記事を検知し、拡散する前に取り除く対策を発表した。

既に対策が進んでいる

既に対策が実施されており、フランス大統領選挙、ドイツ連邦議会選挙、米アラバマ州上院補選では、AIツールが使われ数十万の不正アカウント (Fake Account) が削除された。また、米大統領選挙の追跡調査で、不正アカウントを辿るとロシアが関与していることが分かり、これらを閉鎖したと公表した。今年は米国で中間選挙が、この他に、メキシコ、ブラジル、インド、パキスタンなどで重要な選挙が予定されており、Facebookが悪用されないために万全の対策を講じることを宣言した。

ヌードと暴力シーン

FacebookはZuckerbergの講演に続き、不適切な投稿を削除するための具体的な対策を発表した。不適切コンテンツは幅が広く、それを検知する技法も異なる。不適切コンテンツの代表はヌード写真や暴力シーンであるが、これらはComputer Visionを使って検知する。AIの進化でComputer Visionの性能が向上し、これらを高精度で判定する。システムがほぼ全自動で削除するが、判定が難しいものについては専任スタッフが対応する。

ヘイトスピーチ

反対に、AIにとって一番難易度が高いのがヘイトスピーチの検知である。ヘイトスピーチとは、人種や宗教や性的指向などに対して誹謗中傷する行為を指す。攻撃は投稿されるメッセージで行われ、AIはテキストの内容を理解する必要がある。記事は相手を中傷しているのか、それとも、別のことを意図しているのか、コンテクストの理解が必須となる。

検知が難しい理由

例えば、「I’m going to beat you!」というメッセージを受け取ると、これは自分を中傷してるかどうかの判断は文脈による。「あなたを叩く」という意味だと攻撃で、「あなたに勝つよ」という意味だと、お互いに切磋琢磨しようというポジティブな意味にもなる (下の写真、「Look at that pig!」も解釈が難しい)。

出典: Facebook

AI技法を開発中

人間でも判断に迷うことがあるが、AIにとっては最難関の分野で、今の技術では正しい判定はできない。この理由の一つが教育データの不足で、アルゴリズムを教育するためヘイトスピーチの事例を集めることが喫緊の課題となっている。このため、Facebookは別のAIでヘイトスピーチを自動生成する技術を開発しており、二つのAIでヘイトスピーチを検知する技法を目指している。

フェイクニュース

大統領選挙で問題となったフェイクニュースについて、Facebookは重点課題として対策を進めている (下の写真)。AIがこれを直接検知する技術は確立されていないため、フェイクニュースを発信している不正アカウントを突き止め、これらを閉鎖することで情報拡散を防止する。

出典: Facebook

不正アカウントはフェイクニュースだけでなく、スパムや悪質な広告を発信する目的でも使われている。このため、詐欺被害が相次ぎ、Facebookは対策を進めている。不正アカウントは特異な挙動を示し、AIがこのパターンを検知する。例えば、スパムを発信する不正アカウントは、記事を高頻度で投稿するなど特異な挙動を示し、このシグナルをMachine Learningの手法で検知する。

テロリズム

ソーシャルメディアが過激派組織の広告塔として使われ、深刻な社会問題を引き起こしている。FacebookはAIを導入し、イスラム国やアルカイダなどのプロパガンダを特定し、これらを削除している。2018年第一四半期にはイスラム国とアルカイダに関連するコンテンツ190万件を削除し大きな効果をあげている。

過激派組織が投稿するコンテンツはAIが検知する。写真については、AIが既に削除した写真やビデオと比較し、これらを特定する。テキストについては、AIがテロリズムを奨励するテキストを理解する。アルゴリズムが、既に削除されたテキストを学習し、文字ベースのシグナルを把握する。AIがテロリズムに関連するコンテンツを検知するとともに、専任スタッフや専門家がマニュアルでこれらの作業を並行して行う。

AIの限界

Facebookはこれらの対策でAI、Machine Learning、Computer Visionを使っているが、上述の通り、全ての問題を解決できる訳ではない。このため、Facebook利用者のフィードバックが重要な情報源となる。Facebookは不適切なコンテンツがある場合はレポート (下の写真) してほしいと利用者に呼び掛けている。同時に、Facebookは専任スタッフを2万人に増員し、手作業による不適切コンテンツの摘発を進める。

出典: Facebook

プラットフォームの責任

先の大統領選挙では、Zuckerbergはオバマ政権からFacebookを使った情報操作が行われているとの警告を受けたが、その対策は講じなかった。この理由は、Facebookはニュース配信社ではなく“掲示板”であり、恣意的に特定記事を削除することは妥当でないとの解釈による。しかし、Cambridge Analyticaの個人データ流出問題を受け、Facebookが社会に与えた影響は甚大であることが明らかになり、Zuckerbergは会社の方針を大きく転換した。掲示板であるが不適切な記事は掲載させないことがプラットフォームの責務であるとの指針のもと、AIツールを駆使して再び世論が操作されることを阻止している。