米国連邦議会は顔認識技術の使用を全米で禁止する法案を提案した。これは連邦政府関係者が顔認識技術を使うことを禁止するもので、AIの危険性が全米レベルで認識されたことを意味する。既に、サンフランシスコ市などは顔認識技術の使用を禁止しているが、この流れが全米に拡大した。この背景には、アメリカ社会の人種差別に関する構造的な課題がある。

出典: MIT Media Lab

法案の概要

この法案は「Facial Recognition and Biometric Technology Moratorium Act」と呼ばれ、民主党の有力議員により提案された。法案は連邦政府の治安部門が顔認識技術(facial recognition technology)を所有し、これを使うことを禁じている。更に、連邦政府から助成金を受けている地方政府にも同様の規制を求める。

人権問題との関連

米国では警察が顔認識技術を使って犯罪捜査をすることに対し批判的な意見が多く、議論が続いていた。この中で、警察が黒人男性George Floyd氏を死亡させたことで、全米各地で抗議デモが続いている。警察の捜査手法に抗議するもので、顔認識技術もその一つであるとの認識が広がっている。顔認識技術は完全ではなく、判定精度に偏り(Bias)があり、犯罪捜査で黒人に不利になっているという事実がある。

IBMは事業を停止

このような社会情勢の中で、主要IT企業は顔認識技術の使用中止を表明した。6月9日、IBMは顔認識技術の開発と販売を中止し、事業から撤退することを発表した。この理由として、顔認識技術は人種差別を助長する要因となっており、IBMは技術が住民監視や、人種特定に使われることに反対し、国民の人権と自由を守ると表明した。

Amazonはモラトリアムを宣言

Amazonはその翌日、顔認識技術の使用を制限すると発表した。具体的には、顔認識技術「Rekognition」を警察が使用することを1年間中止する。警察による過剰な捜査手法が問題になり、顔認識技術もこの一部として認識され、Amazonは国民世論に押されモラトリアムを宣言した形となった。(下の写真、Rekognition：アマゾンクラウドの機能で使用料が安く、多くの警察で使われている。)

出典: Amazon

顔認識技術の問題点

多くの企業が顔認識技術を提供しているが、非難の矛先はAmazonに集中している。Amazonの顔認識技術Rekognitionは他社に比べて判定精度が低いとの指摘がある。更に、人種間で判定精度が大きく異なるという問題を抱えている。白人では判定精度のエラー率は3.08%であるが、黒人のエラー率は15.11%と高い。更に、白人男性ではエラー率はゼロであるが、黒人女性のケースでは31.37%と高い。つまり、犯罪捜査でRekognitionが使われるが、黒人の判定精度は低く、これが誤認逮捕につながる。(下のテーブル：主要各社の顔認識技術とその判定精度、Amazonは下から二段目、各社とも黒人の判定精度は低い)

出典: Inioluwa Deborah Raji et al.

警察の利用方法

Rekognitionは全米の多くの警察で利用されている。犯罪捜査で被疑者の写真から身元を割り出すためにRekognitionが使われる。犯罪現場で監視カメラが撮影した被疑者の顔写真と、犯罪者データベースを比較して、その人物の名前を特定する。被疑者の顔写真を入力すると、Rekognitionがその特徴量でデータベースを検索し、よく似ている顔を出力する(下の写真)。犯罪者データベースには収監された犯罪者の顔写真が格納されている。被疑者の身元を簡単に特定できるため、Recognitionは犯罪捜査で大きく役立っている。

出典: Washington Post

顔認識技術が誤認逮捕の原因

顔認識技術を使った犯罪捜査で恐れていた事態が発生した。New York Timesなどがこれを報道し、AIの危険性が再認識された。ミシガン州デトロイト警察は顔認識技術を使い犯罪捜査を進めている。監視カメラに写った顔写真を顔認識システムに入力し、その人物身元を割り出す。このケースでは、AIの判定結果は間違いで、黒人男性を誤認逮捕し長時間にわたり拘留した。警察はAIが判定する結果に基づき被疑者の逮捕に踏み切った。記事は、デトロイト警察は顔認識技術はRecognitionではなく、日本企業など技術を使っていると報じている。

アルゴリズムがバイアスする理由

人種間で判定精度が大きく異なる理由は明白で、教育データが偏っているためである。アルゴリズムは数多くの白人の顔写真で教育され、白人についての判定精度は高くなる。一方、黒人の教育データ数は少なく、そのため、アルゴリズムの判定精度が下がる。このため、教育データを整備するとき、人種間でばらつきをなくすることで問題を解決できる。

根強い不信感と地域の治安

顔認識技術が社会問題となったのは、判定精度だけでなくその利用方法にある。仮に、アルゴリズムのバイアスが修正されても、顔認識技術への抵抗感は根強く存在する。警察の犯罪捜査で、顔認識技術が特定人種の被疑者を逮捕する方便として使われる、と解釈する人は少なくない。また、国家が顔認識技術で国民の行動をモニターしていると感じる人も少なくない。その一方で、顔認識技術が犯罪捜査に役立ち、地域の治安に大きく貢献していることは事実である。特に、テロリスト対策で顔認識技術は国家安全保障に寄与している。

出典: Deepak Babu Sam et al.

政府のガイドライン

つまり、顔認識技術に関するガイドラインの欠如で不信感が増幅され、技術が治安に生かされていない。今は、統一した基準はなく、Amazonなど各社は独自のルールを作り、事業を進めている。一方、ある新興企業は犯罪すれすれの手法で顔認識技術を開発し問題が深刻化している。このため、AmazonやMicrosoftなどIT企業各社は連邦政府に対し規制の制定を呼び掛けている。上述の法令は顔認識技術の使用を全面的に禁止するもので、運用ルールについては触れていない。これが最初のステップとなり、政府のガイドライン制定が進むことが期待されている。

AmazonはAIカンファレンス「re:MARS」で配送ドローン「Prime Air」の最新モデルを公開した(下の写真)。ドローンはAIで映像を解析し、周囲のオブジェクトを正確に判定する。Prime Airの航続距離は15マイル(24㎞)で5ポンド(2.3㎏)までの積み荷を搭載でき、注文を受けた商品を30分以内で配送する。発表当日に米国政府の認可を受け、Amazonはドローン商用運行を数か月以内に始めると明言した。

出典: Amazon

設計コンセプト

Prime Airが飛行する様子はビデオで公開された。Prime Airはハイブリッドデザインで垂直モード(Vertical Mode)と飛行機モード(Airplane Mode)の二つの形態で飛行する。垂直モードは、ヘリコプターのように、離着陸時に垂直に飛行する(下の写真上段、ドローンのフレームが地上と平行)。上空でドローンは飛行機モードに移り、水平に高速で飛行する(下の写真下段、ドローンの本体が地上と平行)。Prime Airは垂直に離陸したあと、機体を傾け、本体が地上と平行になる状態で飛行する。

高度な自動飛行技術

いまでは多くのドローンが自動飛行機能を搭載し目的地まで自律的に飛行する。しかし、想定外の事象が起こると(着陸地点に障害物があるなど)、ドローンは自律的に判断できず、監視センターのオペレータの指示に従って動作する。一方、Prime Airは高度なAIを搭載しており、ドローンが自律的に問題を回避する。例えば、着陸地点に人が立ち入れば、降下を中断し、人が立ち去るのを待つ。また、飛行中に障害物に接触する恐れがある場合、ドローンはそれを把握し回避措置を取る。

出典: Amazon

センサーとオブジェクト認識

ドローンは複数種類のセンサーを搭載し、それをAIで解析することで周囲のオブジェクトを高精度で検知する。飛行中は、静止しているオブジェクト(煙突や電柱など)はStereo Vision(３Dカメラ)で検知する。また、動いているオブジェクト(パラグライダーやヘリコプターなど)はAmazonが開発したComputer Vision(AIカメラ)で検知する。Prime Airは自動運転車のように静止及び移動するオブジェクトを認識する。

着陸時のオペレーション

Prime Airは敷地に着陸してパッケージをリリースする構造となっている。そのため、着陸地点に人や動物がいなく、障害物がないことを確認する必要がある。ドローンに搭載されている赤外線カメラと光学カメラ(下の写真、左側)のイメージをAIで解析しこれらを検知する。ただ、この方式では電線や洗濯物ロープなどは検知することができない。このため、Prime AirはStereo Vision(３Dカメラ)を使い電線などのラインを検知する(下の写真、右側、斜めのライン)。

出典: Amazon

温暖化ガス対策

Amazonは配送過程で排出する二酸化炭素の量をゼロにするプログラム「Amazon Zero」を展開している。2030年までに配送プロセスの50%で二酸化炭素排出量をゼロにすることが目標で、ドローンがこれに大きく貢献すると期待されている。クルマで商品を配送すると大量の二酸化炭素が排出されるが、バッテリーで飛行するドローンはクリーンに商品を配送できる。

商用運行にめど

Amazonは、発表と同じ日に、アメリカ連邦航空局(Federal Aviation Administration)からPrime Airをパッケージ配送業務に使用することの認可を受けた。Amazonは数か月以内にPrime Airの商用運行を始めるとしている。これに先立ち、Alphabet子会社Wingは2019年4月、米国で初めてドローンによる物資配送の認可を得た。Amazonが認可を受けた二番目の会社となり、いよいよ米国でもドローン商用運行が始まることになる。

出典: Twitter @ Jeff Bezos

Re:MARSとは

MARSとはMachine Learning, Automation, Robotics and Spaceの略でAIとロボットと宇宙をテーマとするカンファレンスで、2019年6月4日からラスベガスで開催された。この模様はLive BlogやTwitchでリアルタイムに配信された。カンファレンスでは最新のAI技法が議論され、ロボットのデモが実施された(上の写真、Bezosが手袋インターフェイス(Haptic Gloves)で二台のロボットアームを操作している様子)。また、Bezosのロケット会社Blue Originの宇宙船「New Shepard Capsule」が展示され注目を集めた。昨年まではBezosが主催する閉じられたイベントであったが、今年はAmazonのカンファレンスとなり一般に公開された。

Amazonは自動運転ベンチャーAuroraに大規模な出資を実施した。Amazonが自動運転車の開発に乗り出すとの憶測もあるが、実際には、商品配送に自動運転車を導入する準備を進めている。Amazonの配送車両やトラックを自動運転化し人件費を削減する。また、自動走行するロボットが配送のラストマイルを担う。🔒

出典: Aurora

Amazonは配送ラストマイルを担うロボット「Amazon Scout」の実証実験を始めた。Amazonで購入した商品は人間ではなくロボットが配送する。既に多くのベンチャー企業が配送ロボットを開発しているが、Amazonの参入で技術競争が激しくなる。同時に、AmazonがScout投入したことは、商品の宅配をロボットが担う時代が到来したことを意味する。

出典: Amazon

Amazon Scoutの概要

Amazonは2019年1月、配送ロボットAmazon Scout (上の写真)を発表した。Scoutはクーラーボックスに車輪が六つ付いた形状で、自動運転車のように自立走行する。Scoutは歩道を人が歩くくらいの速さで進み、注文を受けた商品を消費者宅まで配送する。プライム会員向けのサービスで、Amazonで買い物をして同日配送などのオプションを選択すると、Scoutがその商品を無料で配送する。

トライアルを開始

Amazonは6台のScoutを使ってSnohomish County(ワシントン州)でトライアルを始めた。Scoutの運用は月曜日から金曜日までの日中に限られる。注文を受けるとScoutが最適ルートを算定し、自動走行して商品を宅配する。当初は、Amazonのスタッフが安全確認のためにロボットに随行する。

商品の受け取り

Scoutが配送先に到着すると消費者宅の玄関前の歩道に停止する。消費者のスマホにメッセージが送信され、Scoutが到着したことを知らせる。消費者はアプリを操作(PINの入力か)してScoutの貨物ベイのカバーを開き、商品を取り出す(下の写真)。Scoutは商品が取り出されたのを確認して、カバーを閉めて、自律的に帰還する。

出典: Amazon

住民サービスの向上

Scoutはシアトルのアマゾン研究所で開発された。Scoutは歩道を自律走行し、路上のペットや歩行者をよけて安全に移動する。Snohomish CountyはScoutによる商品配送を歓迎するとのコメントを出している。住民サービスが向上するとともに、環境にやさしい方式での配送に期待を寄せている。

地方政府の評価が分かれる

一方、配送ロボットを歓迎しない自治体も少なくない。サンフランシスコは配送ロボットが歩道を走行することを禁止している。市街地では歩道の幅は狭く、配送ロボットが高齢者や身体障碍者の通行を妨げる、というのがその理由。反対に、配送ロボットを積極的に受け入れる自治体は多い。上記に加え、シリコンバレーのMountain ViewやSunnyvaleは配送ロボットが次世代インフラを支える基礎技術と評価し、実証実験を進めている。

技術的課題課題

Scoutなど配送ロボットは歩道を走行して商品を配送する仕組みとなる。歩道の走行は一般道路の走行より難しいとされる。歩道は狭く歩行者で込み合っている。更に、人は歩道を整然と歩くのではなく、ロボットが予測できない行動を取る。歩道を集団で歩いたり、商店から歩道に飛び出すことも珍しくない。歩道にはカフェのテーブルや自転車などが置かれており、配送ロボットはこれらの事象を理解して対応することが求められる。

受け取り手順の問題

更に、人間でなくロボットが商品を届けると、受取手順が問題になる。高級住宅地では敷地に入る際にマニュアルでゲートを開ける必要がある。また、アパート形式の建物では配送ロボットは玄関先まで行くことができない。戸建ての住宅であっても、到着した際に、受取人が不在の時は配送ロボットは荷物を玄関先に置いておくことができない。配送ロボットが通行人によりいたずらをされるケースも報告されている。今後、実証試験などを通してこれらの課題を解決する必要がある。

実際に事故が発生

ロボットが生活に入ってくる中、全米各地で事故が報告されている。Washington(コロンビア特別区)のショッピングモールGeorgetown Waterfrontで、警備ロボット「Knightscope」はステップで転倒し池に転落した(下の写真)。警備ロボットの厳格なイメージが傷つき、企業はハードウェア以上のダメージを受けた。

また、配送ロボット「KiwiBot」はBerkeley(カリフォルニア州)で配送中に突然火を噴きだし火災となった。消防が駆け付ける前に周囲の通行人が消し止め大事には至らなかったが、企業イメージの低下は避けられない。これらの事故が示しているように、ロボットの技術完成度はまだまだ未熟で、抜本的な技術革新が求められる。

出典: Bilal Farooqui

ロボット配送時代に

Amazonはラストマイルの配送ではドローン「Prime Air」の技術開発を早くから始めているが、ロボット配送では市場参入が遅れた。AmazonがこのタイミングでScoutを投入したことは、配送ロボット市場の機が熟したと判断したのかもしれない。解決すべき課題は多いが、Amazonの参入で市場が活性化し、一気にロボット配送の時代に突入する予兆を感じる。