月別アーカイブ: 2019年10月

民間企業が顔認識技術を乱用、米国社会でAIへの不信感が広がる

サンフランシスコやオークランドで顔認識技術を規制する法令が相次いで成立し、警察が犯罪捜査でこの技術を使うことが禁止され、この流れが全米に広がっている。一方、米国市民は警察ではなく民間企業が顔認識技術を使うことを懸念している。民間企業が顔認識技術を乱用するケースが増えており、米国社会でAIへの不信感が広がっている。

出典: John Kim

世論調査

調査会社Pew Researchによると、米国市民の56%は警察が顔認識技術を使うことを容認していることが分かった。特に、警察がテロ対策など治安維持のため公共の場で顔認識技術を使うことに対しては59%の人が賛成している。これに対し、民間企業が顔認識技術を使うことに対しては36%の人が容認している。米国の消費者は顔認識技術活用について警察ではなく民間企業を信用していないという事実が明らかになった。

コンサート会場

こうした世論の背後には民間企業が顔認識技術を乱用している事実がある。人気歌手Taylor Swiftのセキュリティチームはコンサートツアー「Reputation Stadium Tour」で観客を撮影し、顔認識技術を使い、特定の人物を把握していたことが明らかになった。観客の中からストーカーを特定するために顔認識技術が使われ、Swiftが被害にあうのを未然に防止するための措置であった。また、Rose Bowlでのコンサートにおいても(上の写真)、キオスクに設置されたカメラでファンを撮影しストーカーを特定した。これらの措置は観客に通知されておらず、ファンの中にはこの行為をプライバシー侵害と捉える人も少なくなかった。

イベント入場システム

イベントチケット販売会社「Ticketmaster」は顔認証技術を使ったイベント入場システムを開発している。同社は「Ticketmaster Presence」というデジタルチケットを提供しており、利用者はスマホにチケットを格納し、会場ゲートでスマホをリーダーにかざすだけで入場できる(下の写真)。格納したチケットから人間には聞こえない音が発せられ、これをマイクで読み取り本人を確認する仕組みとなる。

出典: Ticketmaster

顔パスで入場

Ticketmasterは次期システムとして顔認証技術に注目している。チケット購入者はスマホを使う必要はなく顔パスで会場に入場できる。事前に顔写真を自撮りしこれをTicketmasterに登録しておくと、会場ゲートではカメラで撮影した顔写真とこれを比較することで顔認証が実行される。手ぶらで入場できるため便利な仕組みであるが、ファンやアーティストから反対の声が上がっている。顔の形状という生体情報が採取されることが懸念の原因で、Ticketmasterがこれら生体情報をどう管理するのかが問われている。また、警察当局からこれら生体情報の提供を求められた際、Ticketmasterは拒み切れるのかについても疑問視されている。

アパートのセキュリティ

ニューヨークの低所得者向けアパート「The Atlantic Plaza Towers」(下の写真)に顔認証システムが導入される計画が明らかになり、入居者が一斉に反対している。このアパートは二重のセキュリティがしかれ、ビルに入るときと部屋に入るときに二種類のキー(Key Fob)を使う。このうち、ビルに入るキーを顔認証システムに置き換え、ビル入り口で専用デバイスにより顔認証を受ける仕組みとなる。しかし、アパートの住人はキーを顔認証技術に置き換えることに反対し、意見書を管理会社に提出した。住民は顔データを使って監視されることに対し強い懸念を示している。住人の多くは黒人で、アパート管理会社は黒人の住人を監視し、白人や他の人種に置き換えるためと疑っている。顔認証技術を使って人種選別が行われることを恐れている。

出典: CityRealty

コンビニの入店管理

コンビニなどの小売店舗が顔認証技術を導入する動きが目立ってきた。セキュリティを強化するのが目的で、店舗入り口にカメラを設置し、顔認証技術で顧客を確認する(下の写真)。問題がなければ入口のロックが開錠され顧客は店内に入ることができる。しかし、犯罪者を特定すると入口のロックは開錠されず、店員にアラートが発信される。万引き常習犯や犯罪者を店舗内に入れないためのシステムで、ポートランドのコンビニ「Jackson Store」などが採用している。しかし、消費者からは顔認証技術の乱用であるとの声が上がっている。消費者は入店するために顔データが採取され、犯罪者データセットと付き合わされる。この方式はプライバシーの侵害で法的な規制を求める声が多い。

出典: Blue Line Technology

妥当性について意見が分かれる

民間企業が顔認証技術を使いセキュリティを強化しているが、それらが妥当かどうかについては意見が分かれている。Taylor SwiftやTicketmasterのケースでは安全性や利便性を勘案すると容認できるとの意見もあるが、著名コンサートイベント「Austin City Limit」などは会場で顔認識技術の使用を禁止すべきとしている。アパート入室管理で顔認証技術を使うことは違法ではないが、このケースでも規制を求める声が高まっている。

民間企業向けの規制

一方、コンビニに入店するために顔認証を受けることは一線を超えているとして、市民が強く反対している。民間企業のケースでは顔認証技術を制限する法令はなく、各社の自主規制に任されている。このため、技術の乱用と思われるケースも少なくなく、統一したルール作りが求められている。ポートランド市などが規制案を検討しており、警察の次は民間企業向けの顔認証技術運用ルールが審議されている。

全米主要都市で顔認識技術が禁止される、AI監視社会への漠然とした恐怖が広がる

サンフランシスコ市は警察が顔認識技術を使うことを禁止した。これがトリガーとなり、対岸のオークランド市も顔認識技術の使用を禁止し、バークレー市も同様な法令を審議している。この背後には政府がAIで市民を監視することへの漠然とした恐怖心があり、使用禁止が全米に広がる勢いとなってきた。

出典: VentureClef

サンフランシスコの規制

サンフランシスコ市は2019年5月、全米に先駆けて顔認識技術の使用を禁止する法案を可決した(上の写真、市庁舎)。これにより警察と市関係機関は顔認識技術を使うことができなくなった。顔認識技術を支えるAIを生み出しているサンフランシスコがこれを禁止したことの意味は重大で、規制の波が全米に広がっている。ただ、サンフランシスコ警察は顔認識技術を使っておらず、この法令は警察捜査に影響を及ぼすものではなく、市民の自由を守る宣言として受け止められている。

主要都市で規制が広がる

これに続き、マサチューセッツ州サマービル市は2019年6月、顔認識技術の使用を禁止する法案を可決した。この法案は成立する見込みで、これにより警察が捜査や監視で顔認識技術を使うことが禁じられる。また、オークランド市は2019年7月、両市に続き顔認識技術の使用を禁止する法案を可決し、バークレー市は類似の法案を審議している。

禁止する理由

顔認識技術の使用を禁止する理由は市民のプライバシーを守ることにある。多くの市民は、顔認識技術をAI監視システムと捉え、政府により監視されるとへの懸念を抱いている。また、顔認識技術が性別や人種による差別を助長することも問題視されている。AIの認識精度は不十分で誤検知が少なくない。特に、黒人や女性のケースで認識精度が大きく低下し、いわゆるバイアスの問題を抱えている(下の写真)。また、顔認識技術が特定団体を追跡するために使われると、言論の自由も脅かされる。

出典: MIT Media Lab

民間企業は規制なし

政府機関の顔認識技術利用が禁止されるが、民間企業がこれを使うことに関しては制約はない。事実、Appleの「Face ID」は顔認識方式でiPhoneをアンロックする。また、GoogleのAIドアベル「 Nest Hello」は顔認識技術で来訪者の氏名を告げる。民間企業は法令の制約を受けることなく、顔認識技術を製品差別化の武器として導入している。しかし、GAFAによる個人データ管理が問題となる中、この流れが変わってきた。

イリノイ州のケース

イリノイ州は2008年に「Biometric Information Privacy Act」という法令を定め、企業が指紋や顔などの生体情報を収集する際に、利用者の同意を義務付けている。これは民間企業に対する規制で、顔認識技術を使ったビジネスを事実上禁止するものとなる。Facebookは顔認識技術による写真タグ機能「Tag Suggestions」を公開しており、これが法令に抵触するとして提訴され、控訴審で敗訴した。

Facebookへの判決

米国連邦裁判所(9th Circuit U.S. Court of Appeals)は2019年8月、イリノイ州の利用者は顔認識技術に関しFacebookを訴訟できるとの判決を下した。Facebookが運用している顔認識技術はBiometric Information Privacy Actに違反するとの判断が示された。これによりイリノイ州でFacebook利用者による集団訴訟が認められたことになる。

Amazonのポジション

Amazonはクラウドで顔認識技術「Amazon Rekognition」を提供しており(下の写真)、オレゴン州の警察はこの技術で犯罪捜査を進めている。人権団体はAmazonに対しRekognitionの警察への提供を中止するよう圧力を強めている。また、Amazon社員は、顔認識技術が乱用される恐れがあるとして、Rekognitionを警察に提供しないよう求めている。これに対し、Amazonクラウド部門の社長Andy Jassyは規制の必要性を認めたうえで、顔認識技術について連邦政府が統一したルールを制定すべきとの見解を示した。連邦政府が主導しないと全米で50の異なる規制が生まれることになると警告した。

出典: Amazon Web Services

Microsoftのポジション

Microsoftは既に顔認識技術に対する会社のポジションを明らかにしている。これは社長のBrad Smithがブログで公開したもので、連邦議会にAIによる顔認識技術の運用ルールを設定するよう求めている。顔認識技術は社会に大きな恩恵をもたらすがその危険性も大きい。このため、政府の規制がないと重大な社会問題を引き起こすと警告している。自動運転車やロボットと同じように、顔認識技術についても消費者のコンセンサス形成が求められ、統一したルール作りが急務となる。

【顔認識技術とは】

顔認識のプロセス

顔認識は次のプロセスで構成される(下の写真)。①Face Detection:入力イメージの中で顔の部分を検出する。②Face Alignment:イメージから顔の部分を取り出し正面に向ける。③Feature Extraction:顔のLandmark(目、鼻、口など)を抽出する。④Classification:AIアルゴリズムで判定プロセスを実行する。このプロセスは「Face Identification」と呼ばれ、顔データセットを検索しマッチするレコードを見つける(「1 : N Matching」と呼ばれる)。警察の捜査では被疑者の顔写真で犯罪者データセットを検索し被疑者のIDを特定する。

出典: Technical University of Munich

AIをかく乱させる技術

監視カメラの導入が進む中、市民は独自の手法でプライバシーを自衛している。特殊パターンがプリントされたトップスを着るとAIは顔を認識できない(下の写真、左側)。AIはプリントされたパターンを顔と誤認識する。回路がプリントされたTシャツを着てクルマを運転すると、自動車ナンバー自動読取装置(Automatic Number-Plate Recognition)が誤作動する(下の写真、右側)。AIはTシャツにプリントされたパターンを自動車のナンバープレートと誤認して読み込む。

出典: Redbubble / Adversarial Fashion