顔認識AIでプライバシーが崩壊‼我々の顔写真が全米の警察で使われている

新興企業「Clearview」は高精度の顔認識AI(下の写真)を開発し、全米の警察で犯罪捜査に利用されている。Clearviewはソーシャルメディアに公開されている顔写真をダウンロードしてこのシステムを開発した。写真の数は30億枚を超え、世界最大規模の顔写真データセットとなる。これに対し、市民団体は、個人の顔写真を許可無く使用することは違法であるとして、Clearviewに対し集団訴訟を起こした。

出典: Clearview

情勢はClearviewに有利

これから審理が始まるが、情勢はClearviewに有利で、米国には、イリノイ州を除いて、顔写真をダウンロードすることを禁止する法令は無い。このため、裁判所は公開されている顔写真を使うことは違法ではないとの判決を下すと予想される。顔認識AIは我々の顔写真を使っていることは間違いなく、この行為は違法ではなく、顔写真は個人情報として保護されないことになる。

Clearviewとは

Clearviewはニューヨークに拠点を置くAI新興企業で、高精度な顔認識技術を開発した。創設者のHoan Ton-That(下の写真)はベトナムで生まれ、オーストラリアで育ち、アメリカで起業した。Clearviewの開発手法はユニークで、FacebookやTwitterやYouTubeに投稿された顔写真と属性(名前など)をダウンロード(Scraping)して顔写真のデータセットを構築した。このデータセットをAIの教育や顔認識アプリの実行で使っている。Clearviewの顔認識アプリは主に警察で使われている。警察は容疑者の写真を撮影し、それを顔認識アプリに入力し、容疑者の身元を割り出す。

出典: CNN

Clearviewの評価

データセットに格納された写真の数は30億枚を超え、ClearviewのAIが容疑者の身元を特定する精度は極めて高く、全米の警察から高く評価されている。今年1月、トランプ前大統領の支持者がアメリカ連邦議会に乱入した事件で、FBIや各地の警察は前例のない規模で事件の解明を進めている。その際に乱入者の身元を割り出すことがカギとなるが、ここでClearviewの技術が使われ、350人を超える容疑者の逮捕に繋がった。(下の写真、検索結果の事例)

出典: Clearview

Clearviewの問題

一方、ClearviewのAI開発手法に対し、個人のプライバシーを侵害しているとの懸念が高まっている。顔認識AIを開発するには大量のデータが必要であるが、Clearviewはネット上の顔写真をスクレイピングしてデータセットを構築した。我々の顔写真と名前がFacebookなどからダウンロードされており、個人のプライバシーの重大な侵害であるとして、社会から批判を受けている。

集団訴訟が始まる

ソーシャルメディアに掲載されている顔写真をサイト管理者や写真本人の了解を得ないでダウンロードすることは違法かどうかの議論が始まった。各地の市民団体はClearviewに対して集団訴訟を起こした。カリフォルニア州では、個人のプライバシーを保護する法令があり、州の住人は10件の集団訴訟を起こしている。この法令は、住民は個人情報が利用されることを制限できると定めており、Clearviewに顔写真を使うことを停止するよう求めている。

Clearviewの主張

これに対し、Clearviewは、企業が公共のデータにアクセスする権利は、アメリカ合衆国憲法修正第1条(First Amendment)で保障されていると主張する。修正第1条は「表現の自由」や「報道の自由」を定めており、公開されている情報を収集する権利は保障されていると反論する。事実、Googleはサイトに公開されているテキストや写真をスクレイピングしており、Clearviewも同じ手法を取っている。

出典: Clearview

スクレイピングを禁止する法令は無い

米国では個人や企業がサイトに掲載されている情報をスクレイピングすることを禁止する法令は無い。一方、システムをハッキングすることを禁止する法令「Computer Fraud and Abuse Act」は1986年に制定された。これは個人や企業がシステムに許可なくアクセスすることを禁止するもので、システムに危害を与えることを防ぐ目的で設立された。

LinkedInの判例

LinkedInはサイトに掲載されている情報に新興企業がアクセスし、これをスクレイピングされるという被害を受けた。このため、LinkedInは上述の法令を根拠に、新興企業を提訴した。しかし、巡回裁判所(9th Circuit Court、日本の控訴裁判所に相当)は、スクレイピングは違法ではないとの判決を下しLinkedInは敗訴した。

パンドラの箱

スクレイピングの法解釈はグレーな部分が多く、また、インターネット企業のビジネスに直結するため、企業はあえて議論を避けてきた。しかし、Clearviewは法廷でこの問題を明確にする戦略を取り、これから各地の裁判所で審理が進み、スクレイピングについての判決が下されることになる。今の情勢では、この訴訟は最高裁判所まで進み、ここでスクレイピングに関する法解釈が決まるとみられている。

Googleのスクレイピング

Googleは検索クローラが世界のサイトからテキストや写真をスクレイピングしている。顔写真や氏名や電話番号などが取得され、個人情報の巨大なデータベースが運用されている。検索エンジンは巨大な顔認識システムでもあり、著名人の顔写真を入力すると氏名を検索できる(下の写真)。Googleはスクレイピングが認められるが、Clearviewにはこれが認められていないとして、Clearviewは法廷で争う姿勢を示している。

出典: Google

Microsoftの対応

このような中、Microsoftはプライバシー問題から、顔認識AIを教育するためのデータセットを消去した。Microsoftは著名人の顔写真100 万枚を収集しデータセット「Microsoft Celeb」を構築し、顔認識AIの教育で利用していた。Microsoft はデータセットに収集されている顔写真について、本人の同意を得ていないとして全てのデータを消去し、公開サイト「MS Celeb38」を閉鎖した。顔写真のプライバシーに関する解釈が分かれる中、Microsoftは独自のルールを定め倫理的な方針を取った。

政府の規制が求められる

MicrosoftなどIT企業は、顔認識技術の危険性と有益性について認識しており、早くから政府による規制を求めてきた。Microsoft 社長のBrad Smith は連邦政府議会に対し、AI による顔認識技術を規制することを求めた。同様に、ClearviewのHoan Ton-Thatも連邦議会に対し、顔認識AIの運用に関する規制を制定するよう求めている。顔認識技術は誤用すると危険なツールとなるが、正しく使うと社会に大きな恩恵をもたらすとして、許容できる利用法と禁止すべき利用法を明確にすることを求めている。