サンフランシスコ市は警察が顔認識技術を使うことを禁止した。これがトリガーとなり、対岸のオークランド市も顔認識技術の使用を禁止し、バークレー市も同様な法令を審議している。この背後には政府がAIで市民を監視することへの漠然とした恐怖心があり、使用禁止が全米に広がる勢いとなってきた。

出典: VentureClef

サンフランシスコの規制

サンフランシスコ市は2019年5月、全米に先駆けて顔認識技術の使用を禁止する法案を可決した(上の写真、市庁舎)。これにより警察と市関係機関は顔認識技術を使うことができなくなった。顔認識技術を支えるAIを生み出しているサンフランシスコがこれを禁止したことの意味は重大で、規制の波が全米に広がっている。ただ、サンフランシスコ警察は顔認識技術を使っておらず、この法令は警察捜査に影響を及ぼすものではなく、市民の自由を守る宣言として受け止められている。

主要都市で規制が広がる

これに続き、マサチューセッツ州サマービル市は2019年6月、顔認識技術の使用を禁止する法案を可決した。この法案は成立する見込みで、これにより警察が捜査や監視で顔認識技術を使うことが禁じられる。また、オークランド市は2019年7月、両市に続き顔認識技術の使用を禁止する法案を可決し、バークレー市は類似の法案を審議している。

禁止する理由

顔認識技術の使用を禁止する理由は市民のプライバシーを守ることにある。多くの市民は、顔認識技術をAI監視システムと捉え、政府により監視されるとへの懸念を抱いている。また、顔認識技術が性別や人種による差別を助長することも問題視されている。AIの認識精度は不十分で誤検知が少なくない。特に、黒人や女性のケースで認識精度が大きく低下し、いわゆるバイアスの問題を抱えている(下の写真)。また、顔認識技術が特定団体を追跡するために使われると、言論の自由も脅かされる。

出典: MIT Media Lab

民間企業は規制なし

政府機関の顔認識技術利用が禁止されるが、民間企業がこれを使うことに関しては制約はない。事実、Appleの「Face ID」は顔認識方式でiPhoneをアンロックする。また、GoogleのAIドアベル「 Nest Hello」は顔認識技術で来訪者の氏名を告げる。民間企業は法令の制約を受けることなく、顔認識技術を製品差別化の武器として導入している。しかし、GAFAによる個人データ管理が問題となる中、この流れが変わってきた。

イリノイ州のケース

イリノイ州は2008年に「Biometric Information Privacy Act」という法令を定め、企業が指紋や顔などの生体情報を収集する際に、利用者の同意を義務付けている。これは民間企業に対する規制で、顔認識技術を使ったビジネスを事実上禁止するものとなる。Facebookは顔認識技術による写真タグ機能「Tag Suggestions」を公開しており、これが法令に抵触するとして提訴され、控訴審で敗訴した。

Facebookへの判決

米国連邦裁判所(9th Circuit U.S. Court of Appeals)は2019年8月、イリノイ州の利用者は顔認識技術に関しFacebookを訴訟できるとの判決を下した。Facebookが運用している顔認識技術はBiometric Information Privacy Actに違反するとの判断が示された。これによりイリノイ州でFacebook利用者による集団訴訟が認められたことになる。

Amazonのポジション

Amazonはクラウドで顔認識技術「Amazon Rekognition」を提供しており(下の写真)、オレゴン州の警察はこの技術で犯罪捜査を進めている。人権団体はAmazonに対しRekognitionの警察への提供を中止するよう圧力を強めている。また、Amazon社員は、顔認識技術が乱用される恐れがあるとして、Rekognitionを警察に提供しないよう求めている。これに対し、Amazonクラウド部門の社長Andy Jassyは規制の必要性を認めたうえで、顔認識技術について連邦政府が統一したルールを制定すべきとの見解を示した。連邦政府が主導しないと全米で50の異なる規制が生まれることになると警告した。

出典: Amazon Web Services

Microsoftのポジション

Microsoftは既に顔認識技術に対する会社のポジションを明らかにしている。これは社長のBrad Smithがブログで公開したもので、連邦議会にAIによる顔認識技術の運用ルールを設定するよう求めている。顔認識技術は社会に大きな恩恵をもたらすがその危険性も大きい。このため、政府の規制がないと重大な社会問題を引き起こすと警告している。自動運転車やロボットと同じように、顔認識技術についても消費者のコンセンサス形成が求められ、統一したルール作りが急務となる。

【顔認識技術とは】

顔認識のプロセス

顔認識は次のプロセスで構成される(下の写真)。①Face Detection：入力イメージの中で顔の部分を検出する。②Face Alignment：イメージから顔の部分を取り出し正面に向ける。③Feature Extraction：顔のLandmark(目、鼻、口など)を抽出する。④Classification：AIアルゴリズムで判定プロセスを実行する。このプロセスは「Face Identification」と呼ばれ、顔データセットを検索しマッチするレコードを見つける(「1 : N Matching」と呼ばれる)。警察の捜査では被疑者の顔写真で犯罪者データセットを検索し被疑者のIDを特定する。

出典: Technical University of Munich

AIをかく乱させる技術

監視カメラの導入が進む中、市民は独自の手法でプライバシーを自衛している。特殊パターンがプリントされたトップスを着るとAIは顔を認識できない(下の写真、左側)。AIはプリントされたパターンを顔と誤認識する。回路がプリントされたTシャツを着てクルマを運転すると、自動車ナンバー自動読取装置(Automatic Number-Plate Recognition)が誤作動する(下の写真、右側)。AIはTシャツにプリントされたパターンを自動車のナンバープレートと誤認して読み込む。

出典: Redbubble / Adversarial Fashion