アメリカ大統領選挙では偽りのニュースが飛び交い、有権者が大きな影響を受けた。ニュースの題名は衝撃的なものが多く、記事は著者の主張が論理的に展開され疑問を挟む余地はない。偽のニュースはFacebookに表示され、口コミで広がり大きな社会問題となった。Obama大統領が名指しで問題点を指摘し、Facebookは虚偽ニュース対応に乗り出した。

出典: Snopes.com

虚偽ニュースによりTrump氏が勝利した

Facebookが表示するニュースに虚偽情報が含まれていることは早くから問題となっていた。大統領選挙では虚偽ニュースによりTrump氏が勝利したとまで言われ、この件が一気に政治問題に発展した。FacebookはTrump氏を推す虚偽ニュースをNews Feedに掲載し、口コミでTrump支援者が増えたとされる。CEOのMark Zuckerbergはこれが勝敗に影響したという解釈を否定しているが、偽ニュースを抑止する対策をとることを表明した。

ローマ法王がTrump氏を大統領に推奨する

大統領選挙では数多くの虚偽ニュースが飛び交った。ニュースはセンセーショナルで人目を引くものが多い。その事例として、WTOE 5 Newsというサイトは「ローマ法王がTrump氏を大統領に推奨する」という偽りの記事を発信した。これに対し、ニュースを検証するサイトはこの記事は偽りと注意を喚起した (上の写真)。これに先立ち、「ローマ法王がClinton氏を大統領に推奨する」という記事も発信された。選挙が終わり、「ローマ法王は選挙結果に失望した」という記事も掲載された。

Clinton氏が米国国歌を見直すべきと提案

また、National Reportというサイトは「Clinton氏が米国国歌を見直すべきと提案した」という偽りの記事を掲載した (下の写真)。更に、Clinton氏はその理由を「歌詞が拳銃などによる暴力につながる」とし、「国歌は宗教と国家の分離原則に抵触する」と述べたとしている。

出典: National Report

虚偽であると判断するのは難しい

このニュースは事実ではなく虚偽の内容である。しかし、怪しいとは感じるものの、一読してこれらが虚偽であると判断するのは難しい。ニュースサイトの名前や外観やURLは本物のように見える。記事のタイトルからも不正を感じさせるものはない。記事を読み始めると、考え方に共感するところもあり、最後まで読んでしまう。ところどころ違和感を感じるが、記事が虚偽であることは見抜けない。むしろ、興味深い内容に惹かれる。

偽ニュースを発信するサイトとは

このNational Reportは名前から権威あるニュースサイトのように思える。同社はホームページで中立ニュースを発信するとうたっている。しかし、National Reportが掲載するニュースは事実ではなく、虚偽ニュースだけを発信する。この目的は魅力的な虚偽のニュースでページビューをあげ、サイトに掲載する広告で収入を得ることにある。ページビューが高いニュースは一件で1万ドルの広告収入があるとされる。但し、今ではGoogleなどが虚偽ニュースサイトへの広告掲示を停止し、National Reportサイトでの広告収入は激減した。

ソーシャルメディアが偽ニュースを増幅

National Reportは虚偽ニュースを発信してきたが、同社だけでは社会的な影響は限られている。しかし、Facebookなどソーシャルメディアに記事が表示され、賛同者の数が増え、記事へのリンクが転載されることで、この記事の出現回数が爆発的に増える。Facebookは人気記事をTrendingとして示し、ここに虚偽ニュースが掲載されると全国規模で広がる。このようにFacebookなどのソーシャル機能が悪用され、虚偽ニュースが世論を動かす力となった。

Trump陣営が虚偽のニュースを引用

大統領選挙ではTrump陣営が虚偽ニュースを引用してClinton候補を攻撃する場面もあった。Eric Trump氏は偽ニュースだとは思わず、記事の内容を根拠に論戦を展開した。ツイートで「Trump講演会で反対運動をする活動家はClinton陣営から3500ドル貰っている」という記事を引用した (下の写真)。しかし、このニュース記事は真実ではなかった。ツイートは削除されたが、そのコピーが今でも多くのサイトに掲載されている。選挙戦当事者も偽ニュースを見分けるのに時間がかかった。

出典: Eric Trump

Facebookの偽ニュース対策

Facebookは早くから偽ニュース (Hoaxes) への対策をとっている。2015年1月には会員が偽ニュース記事を報告できる仕組みを導入した。これはスパムメールを申告するように、News Feedに表示されたニュースが真実ではない場合にはその旨を申告できる。読者からの申告で偽ニュースがNews Feedに表示される回数が減らされる。クラウドソーシングの手法での対応策を始めた。

サイトに誘導する記事や偽記事を抑制

Facebookは2016年8月には、News Feedから「Clickbait」記事を削除する対策を打ち出した。Clickbaitとは意図的に内容を伏せてサイトに誘導する手法を指す。例えば記事の導入部分で「信じられないことに、昨夜レッドカーペットの上でセレブ同士が喧嘩になった。それは誰なのか。。。」と書くと、気になってリンクをクリックして続きを読む。これはサイトに誘導する常套手法であるがFacebook利用者にはたいへん不評。FacebookはClickbaitがNews Feedに出現する回数を抑制した。

出典: Celeb Style Weekly

Machine Learningの手法で偽ニュースを特定

Clickbaitには読者をミスリードする記事も含まれ、偽ニュースを抑制する対策も取っている。Clickbait記事対策ではアルゴリズムを開発し、検出プロセスを自動化した。Facebookはサイトに誘導する記事やミスリーディングな題名の事例を集めClickbaitのデータセットを作成した。これら事例を通常ニュースの題名と比較し、Clickbaitに特有なシグナルを特定した。Clickbaitを検出するアルゴリズムを開発し、これをMachine Learningの手法で教育した。アルゴリズムは学習を重ね検出精度を上げていく。これはスパムメールを検出する方式に似ており、News Feedから虚偽ニュースを排除できると期待されてきた。

大統領選挙では偽ニュースを防げなかった

このような対策をとっているにも拘わらず偽ニュースは増え続け、大統領選挙では有権者を混乱させる原因となった。Facebookが開発したアルゴリズムはニュースタイトルを基準に判定するので偽ニュースを見分ける精度が十分とは言えない。本格的に対応するにはタイトルに加え、本文に踏み込んだ判定が必要となる。

記事を虚偽と判定するのは人間でも難しい

前述の通り記事を虚偽と判定するのは人間でも難しい。明らかな偽りを判定するのは容易だが、記事の内容を把握し、事実関係の検証が求められる。(下の写真は明らかに虚偽ニュースと分かる事例。大統領選挙でTrump氏の勝利が決まった直後、「Obama大統領は大統領令を発令し選挙結果を検証する」という記事が発行された。)

出典: ABCNews.com.co

事実を検証する作業が求められる

多くのケースでニュース記事を読んだだけではそれが真実かどうかを判断するのが難しい。記事で述べられる主張を裏付ける事実を確認する作業が必要になる。主張の出典を探し事実関係を確認する。また、主張を裏付ける事実が確認できたとしても、記事の中で事実を誇張したり、拡大解釈するケースは少なくない。記事検証ではこれらのステップを踏み、内容が正しいかどうかの判定を下す。

真実を突き止めるには限界がある

記事検証では真偽を判定するのが目的であるが、判定できないケースも多々ある。Trump氏が大統領に選ばれたことに抗議して#NotMyPresidentというデモが全米各地で起こった。デモ参加者はClinton支持者で、Trump氏は我々の大統領ではないと抗議の意思を表示した。記事は「デモ参加者は投票所には行っておらず、Clinton氏に投票していない」と分析する (下の写真)。しかし、この事実関係は確認できず、この記事の真偽は判定できない。真実を突き止めるには限界があるのも事実。

出典: ZeroHedge

Facebook記事の真偽を判定するソフト

この問題に大学生たちが挑んでいる。Facebookに掲載される記事の真偽を判定する技法を開発した。大学生たちはAIを最大限に活用し、Facebook記事を解析するソフトウェア「FiB」を開発した。FiBはブラウザーのプラグインとして実装され、Facebook記事を読みその内容を判定する。記事が虚偽であると「Not Verified」と表示する。一方、真実であると「Verified」と表示する。(下の写真はNot Verifiedと判定された事例。「大麻ががん細胞を破壊する」という記事を解析し、これは虚偽であると判定した。)

AIクラウドを使って真偽を判断

FiBはAIを使って真偽を判断する。投稿された記事に掲載されている写真を認識し、それをテキストに変換する。また記事からはキーワードを抽出する。検索エンジンでこれらの出典を調べ、事実かどうかを確認する。更に、Twitter記事のスクリーンショットが掲載されている場合は、その出典をTwitterで検索する。Twitterスクリーンショットが偽でないことを確認する。

Facebookより先にソリューションを開発

学生たちは公開されているAIクラウドのAPIを最大限に活用してシステムを作った。具体的には、Microsoft Cognitive Services、Twitter Search API、Google Safe Browsing APIなどを使っている。記事判定の精度の検証はこれからであるが、世界最先端のAI技術を持つFacebookより先にソリューションを開発したことは特筆に値する。

出典: FiB Project

ファクトチェックサイトが注意を喚起

アルゴリズム開発とは別に、多くの団体が人手で記事の真偽を判定している。これらはファクトチェックサイトと呼ばれ、大統領選挙では有権者に偽ニュースに誘導されないよう注意を喚起した。その代表がFactCheck.orgという独立の非営利団体 (下の写真)。University of Pennsylvaniaの研究機関として活動を開始し、政治問題に関し政治家の主張の真偽を詳細に検証する。また、読者に偽ニュースを見分ける方法などを指導する。

(下の写真はFactCheck.orgが政治家の主張を分析した事例。下院議長Paul Ryanは米国医療制度Medicareはオバマケアーにより破たんしたと主張する。しかし、FactCheck.orgはこの主張は間違いと結論付けた。)

人気のファクトチェックサイト

人気のファクトチェックサイトはSnopes.com (先頭の写真) で1995年に設立された。このサイトはメールやフォーラムを対象に記事の真偽を判定する目的で設立された。大統領選挙では政治ニュースに焦点を当て、問題点を指摘し有権者に注意を喚起した。分かりやすい表現で多くの人に利用されている。また政治問題だけでなく、ビジネス、エンターテイメント、健康、宗教、テクノロジーなど幅広い分野をカバーする。

Fake Newsは後を絶たない

大統領選挙が終了した後も偽ニュースは後を絶たない。民間人に贈られる最高位の勲章「Presidential Medal of Freedom」授与式が11月22日、ホワイトハウスで執り行われた。映画俳優Robert De NiroらにObama大統領からメダルが授与された。一方、Clint EastwoodのTwitterにメダル授与を拒否したとのコメントが掲載された。その理由としてObama氏は私の大統領ではないと述べている。これは真実ではなく、Eastwoodになりすました人物が発信したもので、ソーシャルメディアから偽りのニュースが流れ続けている。

出典: FactCheck.org

Facebookは米国最大のメディア企業

ソーシャルメディアが生活に浸透し、ニュースの読み方が大きく変わってきた。Pew Researchによると米国の成人の62%がソーシャルメディアでニュースを読む。これをメディア別に分類すると、米国の成人の44%がFacebookでニュースを読んでいる。YouTubeやTwitterがこれに続くが、Facebookがニュース配信メディアとしてトップの位置にいる。

Facebookの責任論

ZuckerbergはFacebookはメディア企業ではなく、記事の真偽を自社で判定すべきでないとの立場をとってきた。記事の真偽の判断は読者に委ねてきた。しかし、Facebookが米国最大のニュース配信企業となっている事実を勘案すると、掲示するニュースの品質についてFacebookが責任を負うべきという議論が主流となっている。同様に、GoogleやTwitterも対策を求められている。Googleは既に、偽ニュースサイトへの広告配信を停止した。

Facebookが対策に乗り出す

偽ニュースが国民的な問題となり、Facebook社内で問題意識を持つ社員が集い、自主的に問題解決に向け動き始めたとも伝えられる。Zuckerbergもポジションを変え、対策に乗り出すと表明した。今頃はAIを駆使したソリューションが開発されているのかもしれない。メールからスパムがフィルターされたように、News Feedから偽ニュースが消えることを期待する。