カテゴリー別アーカイブ: Amazon

Amazonは家庭向けロボットを投入、高度なAIを搭載し家の中を自動走行するが機能は限定的、5年後を見据えた開発の最初のステップとなる

今週、Amazonは発表イベントで家庭向けのロボット「Astro」を公開した(下の写真)。ロボットは子犬ほどの大きさで、頭部にディスプレイが搭載され表情を表し情報を表示する。ロボットはカメラの映像をAIで解析し、家の中で障害物を避けて自動で走行する。ベーシックな機能だけを搭載したロボットで、Amazonはこれを「Day 1 Editions」と呼ぶ。完結した製品になるまでには5年程度の時間が必要で、Amazonはロボットの普及に向け第一歩を踏み出した。

出典: Amazon

Astroの利用方法

ロボットはエンターテイメントとセキュリティを目的に開発された。ロボットは”移動式AIスピーカー”という構成で、人間の言葉を理解してタスクを実行する。ロボットに指示するときは、「Astro」と呼びかける。「Astro, call Mom」と指示すると、ロボットはお母さんに電話してビデオで通話する(下の写真、左側)。ロボットは利用者をフォローする機能があり、家の中で移動しながら通話できる。また、「Astro, Take this to Alicia」と言えば、飲み物を指示した人物に届ける(中央)。ロボットは顔認識機能があり、人物を見分けることができる。更に、「Astro, remind Lucas…」と言えば、指示した人物にリマインダーを送信する(右側)。

出典: Amazon

セキュリティ機能

一方、住人が不在の時はロボットが警備員となり家の中をパトロールして安全を確認する。ロボットは潜望鏡を搭載しており、これを伸ばして先端のカメラで家の中を監視する(下の写真)。高い視点でモニターでき、キッチンのガスコンロがオフになっていることなどをモニターする。カメラが捉えた映像は利用者のスマホアプリに送信される。因みに、利用者はスマホアプリからロボットに監視する場所の指示を出す。

出典: Amazon

シニアの健康管理

ロボットの利用法で期待されているのがシニアの健康管理である。これは「Alexa Together」というサービスをロボットに適用したもので、離れて暮らす年老いた両親の健康状態をモニターする(下の写真)。異常があればロボットは遠隔地にいる管理者にアラートを送信する。また、本人にかわりショッピングリストを生成し、リマインダーを送信するなどの機能もある。ロボットが介護士となり家の中でシニアの健康状態をモニターする。

出典: Amazon

ナビゲーションシステム

ロボットは高度なAIを搭載しセンサーの情報を解析し部屋の中を自動で走行する。これは「Intelligent Motion」と呼ばれ、ロボットのナビゲーションシステムとなる。ロボットは三セットのセンサー「Navigation Sensors」、「Obstacle Sensors」、「Depth Sensors」を搭載し、これをAIで解析して移動ルートを算出する。また、ロボットはSimultaneous localization and mapping (SLAM)という技法で、家の中のマップを生成し、現在の位置を把握する。(下の写真、SLAMの手法で生成された3Dマップでロボットはこれをベースに走行ルートを決定する。)

出典: Amazon

多種類のセンサー

ロボットは三種類のセンサーを使い家の中を自律走行する。マップ生成においては「Navigation Sensors」が使われる。このセンサーは家の中のランドマーク(テーブルの角やドアのフレームなど)を把握し、マップにこの情報を組み込む。ロボットが家の中を移動する際の目印として利用する。一方、「Obstacle Sensors」はロボットの目の前のオブジェクトを把握し、近傍のマップを高精度で生成する。このほかに「Depth Sensors」は人物を把握するために使われる。(下の写真、Navigation SensorsとObstacle Sensorsはロボット本体正面に搭載されている。Depth Sensorsはディスプレイ上部に搭載されている。)

出典: Amazon

自動走行の仕組み

生成されたマップでロボットは目的地に移動するための最適なルールを算出する。アルゴリズムは数百のルートを検証し、そこから最適なものを選ぶ(下の写真)。AIは長期的な経路(下の写真、青色の線)と短期的な(2-3秒先の)経路(緑色の線)を算出する。更に、自動運転車とは異なり、家の中では決められたレーンは無く、また、床に物が置かれるなどして経路が塞がれる事象が発生する。周囲の状況は頻繁に変わり、その都度、アルゴリズムがルートを再計算し、新しい環境に適応する。

出典: Amazon

人間とのインタラクション

ロボットは人間とモノを見分けることができ、人間に対しては礼儀正しい対応をする。ロボットは人間に合わせた速度になり、また、社会的に適切なインタラクションを行う。具体的には、ロボットは人間に接するときは、正面からアプローチし、最適な距離を取って停止する。また、ソファに腰かけている時は、隣に停止するなどのアクションを取る(下の写真)。人間に接するときは、「Navigation Sensors」と「Depth Sensors」が使われ、優雅な動作で対応する。

出典: Amazon

Amazonがロボットを開発する理由

高度なAIで構成されるAstroであるが、その利用形態はエンターテイメントやセキュリティに限られる。ロボットはアームを搭載しておらず、冷蔵庫を開けてビールを届けるなどのタスクはできない。また、洗濯物をたたみ、部屋を掃除するなどの家事が出来るわけでもない。Astroはロボットとしての最小限の機能だけで、利用方法は限られる。Amazonはこれを認識したうえでAstroを投入し、これをDay 1 Editionsと呼び、ベータ版であることを強調している。Astroの販売価格は999.99ドル(導入価格)で年末から出荷が始まる。Amazonは5年から10年後には家庭にロボットが普及する時代になると予測しており、Astroの開発はこれに向けた第一歩となる。

AIに評価され解雇される日が到来!!Amazonは契約社員の人事評価を人間を介さずアルゴリズムで自動化

Amazonは契約社員の人事評価から解雇まで一連のプロセスをAIで実行する。人間が関わることなく、アルゴリズムが人事を担う。契約社員の数は400万人ともいわれ、Amazonは人間が手作業で管理することは不可能で、AIの導入が必須としている。一方、契約社員は、突然AIからメールを受信し、解雇を通告される。ソフトウェアに首を切られることは屈辱であるが、米国でAIによる人事管理が急速に広がっている。

出典: Amazon

Amazon Flexとは

Amazonの契約社員は「Amazon Flex」と呼ばれ、オンデマンドで柔軟に勤務することができ(上の写真)、その数が増えている。Amazonはこれらの社員をAIで管理する方式を取っている。契約社員は、時間が空いている時に、Amazonの商品を配送する運転手として勤務する。Uberのドライバーのように、自分のクルマを使って商品を配送する。正社員や運送企業に加え、Amazon Flexがラストマイルを支えている。

オンデマンドで勤務

Amazon Flexは配送の全てのプロセスを専用アプリで実行する。契約社員は空き時間に仕事を申し込む。時間帯ごとに配送地区が示され、希望のスロットを選ぶ (下の写真左側)。次に、商品を積み込む配送センターが示され(中央)、ここに出向きそれらをクルマに搭載する。スマホに、配送先の住所とルートが示され、これに従って配送する(右側)。

出典: Ridesharing Driver

AIが勤務状態を管理

業務は3時間のスロットで区分けされ、40件程度をこなし、時給は18ドルから25ドル。仕事は指示されたスケジュール通り商品を配送したかで評価される。また、消費者の指示にそって配送できたかも評価の対象となる。例えば、盗難防止のために、玄関の鉢植えの背後に商品を置くよう指示するケースが多い。AIは商品が配送された時間や消費者のフィードバックを元に勤務を評価し、その結果が契約社員に伝えられる。(下の写真:配送スタッフが商品を届ける(左側)。Amazonから確かに配送したことを示す写真が送られ(中央)、パッケージを受領したら配送に関するフィードバックを送る手順となる(右側)。これらのデータで社員の勤務評価が決まる。)

出典: VentureClef

AIに解雇される事例

仕事の評価が低く契約社員がAIに解雇される事例は少なくない。Bloombergなどの報道によると、契約社員が時間通りに商品を配送できていないとして、AIは雇用を継続することが難しいと判断し解雇を通告する。解雇通告は人間ではなく、AIが契約社員にメールを送信し、評価結果を説明し、解雇を告げる。解雇が不当である場合は、契約社員はその理由を申し立てることができるが、判定を覆すことは難しい。

Amazonの作戦

Amazon Flexアプリは世界で400万人がダウンロードし、米国だけでも290万人が使っている。Amazonは、大量の契約社員を管理するにはAIの導入が必須で、社員の勤務評価から解雇まで、一連の人事プロセスを自動化する必要があると主張する。一方、AIで人事管理を自動化するのはこれが初の試みで、Amazonは問題が発生することは事前に予測していた。社会問題となることは覚悟の上で、問題が発生した都度ソフトウェアを改良し、公正に人事管理ができるシステムの構築を進めている。

ホワイトカラーに広がる

米国で社員の仕事ぶりをAIで管理する動きが広がっている。対象は商品配送の契約社員に留まらず、定型業務における人事管理にAIが導入されている。コールセンターのオペレータの業務内容をAIで評価する。また、コロナが終息すると企業はハイブリッド勤務に移行し、多くの部分をリモートワークが占めることになる。顔の見えない社員をどう評価するかの議論が始まり、AI人事評価技術に注目が集まっている。

AIは公平に判定できるか

AIはビッグデータを元に判定を下すが、問題となるのがアルゴリズムの精度である。銀行ローンをAIが判定するが、性別や人種により判定が偏り、女性が不利になるケースが少なくない。AIが人間の介入なしに社員を解雇するが、この人事評価は正しいのかが問われる。今の法令では、Amazonはアルゴリズムが公平であることを証明する義務はない。AIの精度を誰が保証するのか、解決すべき課題は少なくない。

出典: Amazon

AIに評価される社会

人間の能力をアルゴリズムで評価することに対しては根強い嫌悪感がある。人間に解雇されるのも苛立たしいが、AIから解雇のメールを受け取ることはなおさらである。しかし、人事管理におけるAIの役割は広がり、多くの企業はAIで人材採用を始めている。リモートワークが広がる中、AIとの人事面接で採否が決まるケースは少なくない。ついに、AIが社員を採用し、仕事ぶりを評価し、解雇する社会が到来した。

AmazonはZooxを買収し自動運転車市場に参入、サンフランシスコでロボタクシーの試験走行を公開

Amazonが買収したZooxはサンフランシスコでロボタクシーの試験運転を公開した。クルマはレベル5の完全自動運転車で、ドライバーが搭乗しないロボタクシーとして、市街地における住民の足となる。Zooxはミニバス形状で(下の写真)、市街地の狭くて込み合った道路を自動で走行する。Amazonはこの他に、自動運転SUVの開発を進めており、次のコア事業は自動運転車であることが鮮明になった。

出典: Zoox

クルマの全体構造

Zooxはレベル5の完全自動運転車で、ドライバーが搭乗しないで、バイクや歩行者で込み合う市街地を走行する。Zooxは四輪ステアリングで、斜めに走ることができ、狭いスペースに駐車して乗客を降ろすことができる。また、前後対象のデザインで、後ろ方向に走ることができる。駐車スペースからバックではなく前進で発進できる。対称構造であるため前後左右で同じ部品を使え、パーツ点数が大幅に少なくなる。

車内のデザイン

Zooxは西部劇で登場するステージコーチをほうふつさせるデザインで、車内に二人掛けの座席が向き合って配置されている(下の写真)。乗客は座席に座り、シートベルトを締め、スタートボタンを押すとクルマは目的地に向かって走行する。クルマを呼ぶときには、ライドシェアの要領で、スマホアプリで現在地と目的地を入力する。

出典: Zoox  

設計コンセプト

Zooxは他の自動運転車とは異なりゼロから開発されている。車体は自動車メーカーから供給されるのではなく、独自の設計で無人タクシーとしてデザインされている。自動運転のコア技術であるAIやソフトウェアも独自で開発され、システムはNvidiaのAIプロセッサで稼働する。当初はセダンタイプのデザインであったが(下の写真)、現在は、乗り降りしやすいステージコーチ型となった(先頭の写真)。

出典: Zoox  

AmazonがZooxを買収

このため、大規模な開発資金と多数のエンジニアが必要となり、Zooxは開発に行き詰り、企業を売却する判断を下した。このタイミングでAmazonは2020年6月に買収を発表し、ZooxはAmazonの資金で開発を継続している。これにより製品開発が加速され、2020年12月、Zooxは自動運転車を公開し、サンフランシスコ市街地を走行するデモが実施された。

センサー

ZooxはカメラとLidarとレーダーをクルマの四方に搭載し、これをAIで解析して自動運転を実現する(下の写真)。周囲360度の視野を持ち、毎時75マイルで走行することができる。カメラはオブジェクトの色を識別し、信号などを把握する。レーダーは周囲のオブジェクトを把握し、Lidarはこれを3Dで高精度で認識する。自動走行する前に、Lidarで道路と標識などをセンシングし、高精度3Dマップを作成しておく。

出典: Zoox  

製品ポジショニング

Zooxはステルスモードで開発し、その技術は謎に包まれていたが、Amazonが買収してからは製品化への歩みを速め、クルマの全貌が明らかになった。クルマのポジショニングも明確になり、市街地における短距離輸送に特化したデザインとなっている。

Bezosの戦略

この背後にはJeff Bezosの自動運転車に関する長期的なビジョンがある。Bezosは自動運転車とEVが次の大きな市場になるとして、相次いで資金を投資している。2019年2月、自動運転スタートアップ「Aurora」に大規模に出資し業界の注目を集めた。その直後、ピックアップトラックを開発するベンチャー「Rivian」に出資した。BezosはCEOを退任し、取締役会長になり、これからは新規事業の育成に時間を費やすと述べている。Zooxの買収で自動運転車が次のコア事業となることが鮮明になり開発が加速されることとなる。

Amazonはリストバンド「Halo」を投入、究極の健康管理ウエアラブルでAIが身体とメンタルの状態をモニター

Amazonは健康管理のウエアラブル「Amazon Halo」(下の写真)の出荷を開始した。これはリストバンドタイプのウエアラブルで、身体情報をモニターするセンサーとして機能する。ディスプレイは備えておらず、健康管理に特化したセンサーで、スマホアプリとペアで使う。実際に使ってみると、フィット感は良く、身体やメンタルの状態を把握でき、健康管理デバイスの新しい流れを感じる。

出典: Amazon

Amazon Haloの概要

Amazon Haloは右手または左手の手首に装着し、身体状態をモニターするために利用する。四つの機能を搭載しており、運動量、睡眠の質、声のトーン、及び、体脂肪率を計測する。計測したデータはスマホの専用アプリ「Amazon Halo App」に表示される(下の写真)。スマートウォッチではディスプレイに情報が表示されるが、Amazon Haloは健康管理センサーとしてデザインされ、最小限の機能だけを搭載している。価格は99.99ドルでAmazon Prime会員向けには74.99ドルで販売されている。Amazon Haloはサブスクリプション方式のデバイスで、月額3.99ドルの使用料金を支払う。

出典: Amazon / VentureClef

運動量をモニター

Amazon Haloは運動量をモニターし、体を動かした量をポイントで表示する(下の写真、左側)。一週間に150ポイントを得ることが目標で、その過程がグラフで表示される。1ポイントは1分間に中程度の運動をする量となる(右側)。中程度の運動とは、速足でのウォーキングやほうきで庭を掃除する程度の運動で、医療学会American Heart Associationは一週間に150分の運動を推奨している。Amazon Haloは加速度センサーと心拍数センサーで運動量を算定する。

出典: VentureClef

睡眠の質を測定

Amazon Haloは睡眠の状態を測定し、その質を100点満点のスコアで示す(下の写真、左側)。スコアは睡眠時間と睡眠内容を総合的に評価したもので、70点を下回ると対策が必要となる(右側)。スコアは睡眠時間の他に、寝入るまでの時間、ステージごとの時間、夜中に起きた回数などを加味する。睡眠のステージは「Hypnogram」と呼ばれ、Light、Deep、REMから成る。Lightは浅い眠りで、睡眠時間の半分を占める。Deepは深い眠りで、睡眠の前半に起こる。深い眠りの中で身体の細胞が修復され、健康維持に深くかかわるとされる。REM(Rapid Eye Movement)は脳が活動して覚醒状態にある眠りで、このステージで人は夢を見たり、記憶が整理される。このスコアで睡眠の状態を把握し、問題があればこれを改善する。ただ、睡眠の質は人により異なり、スコア以外に、朝起きた時の爽快感や日中の気分などが重要な指標となる。

出典: VentureClef

声のトーンを分析

Amazon Haloに搭載されたマイクが利用者の声を聞き、それをAIで解析して、声のトーンを把握する(下の写真、左側)。声のトーンとは言葉に含まれた感情で、四つに分類され、Amused、Content、Reserved、Displeasedとなる(右側)。Amusedは楽しい時の、Contentは満足した時の声のトーンとなる。Reservedは静かな状態で、Displeasedは怒った時の声のトーンとなる。実際に使ってみると、声のトーンを通じてメンタルの状態を把握できる。その日の気分を正確に把握するのは難しいが、Amazon Haloはこれを客観的に分析しグラフで提示する。また、Amazon Haloは会話の”鏡”として機能し、自分の声が相手にどのような印象を与えているのかを理解できる。この機能を使うには、事前に声を入力し、AIが本人を特定できるよう教育しておく。

出典: VentureClef

体脂肪率を推定

Amazon Haloは体脂肪(Body Fat)の割合を計測する(下の写真、左側)。スマホカメラで身体を撮影し(右側)、AIが画像を解析し脂肪量(Fat Mass)を推定する。体重については利用者が測定して入力する。これにより体脂肪率が分かる。

出典: Amazon

体脂肪率は健康管理に重要な指標で、この値が健康寿命や病気発症に関連する。体脂肪率が高いと心臓疾患や糖尿病の発症確率が上がる。体重は食事などで頻繁に変わるが、体脂肪量は変動が少なく、その変化が健康に大きく影響する。このため、二週間おきに体脂肪率を測定することを推奨している。体脂肪については、多くの測定法があるが、Amazon Haloはコンピュータビジョンと機械学習でイメージを解析する手法を取る。AIが体形から体脂肪を推定するが、病院での測定技術(Dual-Energy X-Ray Absorptiometryなど)と同等の精度であるとしている。

健康管理のコンテンツ

Amazon Haloは研究所「Labs」を運用しており、ここに健康管理のコンテンツを揃えている。コンテンツはワークアウトや睡眠の質を向上させるプログラムやマインドフルネスのレッスンなどから成る。ワークアウトは自宅でできるエクササイズが揃っており、ビデオでインストラクターの指示に従って体を動かす(下の写真)。ストレングス、カーディオ、ヨガ、バー(Barre、右側下段)の分野があり、目的に合ったプログラムを選択できる。バーとはバレエダンスに基づくワークアウトで、ハリウッドのセレブが行っていることで人気となった。Appleはフィットネスのための有料プログラム「Apple Fitness+」をスタートしたがAmazon Haloはこれに対抗する位置づけとなる。

出典: VentureClef

実際に使ってみると

左手にはApple Watchを着けているので、Amazon Haloは右手に装着して利用している。Apple Watchより一回り小型の形状で、着装感は軽く負担は感じない。デバイスを操作する必要はなく、Amazon Haloが自動で身体状態をモニターするので、ウエアラブルというよりはバイオセンサーを着装している感覚に近い。

一番驚かされたデータ

睡眠を分析した情報に一番驚かされた。日ごとに睡眠のスコアは大きく変わり、また、睡眠のパターンも一定ではない。よく眠れた日とそうでない日が明らかになり、今までは、感覚的に寝不足を感じていたことがデータで示される。次のステップとしては、上述のLabsに登録されているコンテンツを使って、睡眠の質を上げることになる。

リアルタイムで声のトーンを分析

Amazon Haloが分析する声のトーンも参考になる。普段の会話の声のトーンを把握し、次は、好感を持ってもらえる声のトーンにアップグレードするステップとなる。また、スピーチで好まれるしゃべり方を学習することもできる。Amazon Haloはリアルタイムで声のトーンを解析する機能もあり(下の写真、右側)、このツールとLabsに掲載されているレッスンを併用して声のトーンを改良する。

出典: VentureClef

バイオセンサー

Amazon Haloは人気のウェアラブル「Fitbit Tracker」からディスプレイを取り外した形で、リストバンド形状のバイオセンサーとしてデザインされている。センサーが収取するバイオデータをAIが解析し、健康管理のポイントをアドバイスをする。実際に使ってみると、健康管理のウエアラブルは生活に必須のデバイスであると感じ、これから需要が大きく伸びると思われる。できることなら、血圧や血糖値や酸素飽和度を測定する機能があれば健康維持に大きく寄与する。

全米で顔認識技術の使用が禁止される、AIの判定精度が悪く人種差別や誤認逮捕につながる

米国連邦議会は顔認識技術の使用を全米で禁止する法案を提案した。これは連邦政府関係者が顔認識技術を使うことを禁止するもので、AIの危険性が全米レベルで認識されたことを意味する。既に、サンフランシスコ市などは顔認識技術の使用を禁止しているが、この流れが全米に拡大した。この背景には、アメリカ社会の人種差別に関する構造的な課題がある。

出典: MIT Media Lab

法案の概要

この法案は「Facial Recognition and Biometric Technology Moratorium Act」と呼ばれ、民主党の有力議員により提案された。法案は連邦政府の治安部門が顔認識技術(facial recognition technology)を所有し、これを使うことを禁じている。更に、連邦政府から助成金を受けている地方政府にも同様の規制を求める。

人権問題との関連

米国では警察が顔認識技術を使って犯罪捜査をすることに対し批判的な意見が多く、議論が続いていた。この中で、警察が黒人男性George Floyd氏を死亡させたことで、全米各地で抗議デモが続いている。警察の捜査手法に抗議するもので、顔認識技術もその一つであるとの認識が広がっている。顔認識技術は完全ではなく、判定精度に偏り(Bias)があり、犯罪捜査で黒人に不利になっているという事実がある。

IBMは事業を停止

このような社会情勢の中で、主要IT企業は顔認識技術の使用中止を表明した。6月9日、IBMは顔認識技術の開発と販売を中止し、事業から撤退することを発表した。この理由として、顔認識技術は人種差別を助長する要因となっており、IBMは技術が住民監視や、人種特定に使われることに反対し、国民の人権と自由を守ると表明した。

Amazonはモラトリアムを宣言

Amazonはその翌日、顔認識技術の使用を制限すると発表した。具体的には、顔認識技術「Rekognition」を警察が使用することを1年間中止する。警察による過剰な捜査手法が問題になり、顔認識技術もこの一部として認識され、Amazonは国民世論に押されモラトリアムを宣言した形となった。(下の写真、Rekognition:アマゾンクラウドの機能で使用料が安く、多くの警察で使われている。)

出典: Amazon  

顔認識技術の問題点

多くの企業が顔認識技術を提供しているが、非難の矛先はAmazonに集中している。Amazonの顔認識技術Rekognitionは他社に比べて判定精度が低いとの指摘がある。更に、人種間で判定精度が大きく異なるという問題を抱えている。白人では判定精度のエラー率は3.08%であるが、黒人のエラー率は15.11%と高い。更に、白人男性ではエラー率はゼロであるが、黒人女性のケースでは31.37%と高い。つまり、犯罪捜査でRekognitionが使われるが、黒人の判定精度は低く、これが誤認逮捕につながる。(下のテーブル:主要各社の顔認識技術とその判定精度、Amazonは下から二段目、各社とも黒人の判定精度は低い)

出典: Inioluwa Deborah Raji et al.

警察の利用方法

Rekognitionは全米の多くの警察で利用されている。犯罪捜査で被疑者の写真から身元を割り出すためにRekognitionが使われる。犯罪現場で監視カメラが撮影した被疑者の顔写真と、犯罪者データベースを比較して、その人物の名前を特定する。被疑者の顔写真を入力すると、Rekognitionがその特徴量でデータベースを検索し、よく似ている顔を出力する(下の写真)。犯罪者データベースには収監された犯罪者の顔写真が格納されている。被疑者の身元を簡単に特定できるため、Recognitionは犯罪捜査で大きく役立っている。

出典: Washington Post

顔認識技術が誤認逮捕の原因

顔認識技術を使った犯罪捜査で恐れていた事態が発生した。New York Timesなどがこれを報道し、AIの危険性が再認識された。ミシガン州デトロイト警察は顔認識技術を使い犯罪捜査を進めている。監視カメラに写った顔写真を顔認識システムに入力し、その人物身元を割り出す。このケースでは、AIの判定結果は間違いで、黒人男性を誤認逮捕し長時間にわたり拘留した。警察はAIが判定する結果に基づき被疑者の逮捕に踏み切った。記事は、デトロイト警察は顔認識技術はRecognitionではなく、日本企業など技術を使っていると報じている。

アルゴリズムがバイアスする理由

人種間で判定精度が大きく異なる理由は明白で、教育データが偏っているためである。アルゴリズムは数多くの白人の顔写真で教育され、白人についての判定精度は高くなる。一方、黒人の教育データ数は少なく、そのため、アルゴリズムの判定精度が下がる。このため、教育データを整備するとき、人種間でばらつきをなくすることで問題を解決できる。

根強い不信感と地域の治安

顔認識技術が社会問題となったのは、判定精度だけでなくその利用方法にある。仮に、アルゴリズムのバイアスが修正されても、顔認識技術への抵抗感は根強く存在する。警察の犯罪捜査で、顔認識技術が特定人種の被疑者を逮捕する方便として使われる、と解釈する人は少なくない。また、国家が顔認識技術で国民の行動をモニターしていると感じる人も少なくない。その一方で、顔認識技術が犯罪捜査に役立ち、地域の治安に大きく貢献していることは事実である。特に、テロリスト対策で顔認識技術は国家安全保障に寄与している。

出典: Deepak Babu Sam et al.

政府のガイドライン

つまり、顔認識技術に関するガイドラインの欠如で不信感が増幅され、技術が治安に生かされていない。今は、統一した基準はなく、Amazonなど各社は独自のルールを作り、事業を進めている。一方、ある新興企業は犯罪すれすれの手法で顔認識技術を開発し問題が深刻化している。このため、AmazonやMicrosoftなどIT企業各社は連邦政府に対し規制の制定を呼び掛けている。上述の法令は顔認識技術の使用を全面的に禁止するもので、運用ルールについては触れていない。これが最初のステップとなり、政府のガイドライン制定が進むことが期待されている。