カテゴリー別アーカイブ: 自動運転車

日本人を含む有色人種は自動運転車に轢かれる確率が高い、AIアルゴリズムの精度が白人に偏っている

自動運転車が歩行者を認識する精度は肌の色により異なり、白色人種より有色人種の検知精度が低いことが判明した。これはGeorgia Institute of Technologyの研究チームが明らかにしたもので、自動運転車は有色人種の歩行者を検知しにくいという特性がある。イメージ判定のアルゴリズムがバイアスしているためで、自動運転車の場合は生命にかかわる問題として注意を喚起している。🔒

出典: Benjamin Wilson et al.  

Amazonは商品配送に自動運転車を導入、Auroraなど自動運転ベンチャーに大規模な出資

Amazonは自動運転ベンチャーAuroraに大規模な出資を実施した。Amazonが自動運転車の開発に乗り出すとの憶測もあるが、実際には、商品配送に自動運転車を導入する準備を進めている。Amazonの配送車両やトラックを自動運転化し人件費を削減する。また、自動走行するロボットが配送のラストマイルを担う。🔒

出典: Aurora

自動運転車は高齢者と若者のどちらの命を救うべきか、アルゴリズムに倫理的な判断が求められる

MIT Media Labは倫理的な自動運転技術を研究している。自動運転車開発ではトロッコ問題(Trolley Problem)が重要な研究テーマとなる。自動運転車が事故を避けられない状況に陥ったとき、誰を救い、誰を犠牲にするかが議論となる。MIT Media Labはこの問題を一般化し、全世界で世論調査を実施し、その結果を公表した。自動運転車に求める倫理判断は普遍的ではなく、地域で考え方が大きく異なることが分かった。日本を含むアジア圏は欧米と比べ際立った特徴を示している。

出典: Iyad Rahwan et al.  

Moral Machine

研究結果は「The Moral Machine experiment」として科学雑誌Natureに掲載された。MIT Media Labはトロッコ問題を一般化した「Moral Machine」という研究を進めている。トロッコ問題とは倫理学の思考実験で、ある人を救うためにある人を犠牲にすることは許されるか、というテーマが議論される。Moral Machineはこのテーマを自動運転車に適用し、13のケースを作り出し、公開実験としてウエブサイトに掲示している。

ウェブサイトでの公開試験

全世界の利用者はMoral Machineにアクセスし、これらの質問に回答することができる。13のケースについて、自動運転車が取るべきアクションを投票することができる。具体的には、自動運転車のブレーキが故障した時、アルゴリズムは人命を救うためにどう判断すべきかが示されている。ここには二つのアクションが提示され、被験者はどちらが倫理的な判断であるかを回答する(上の写真)。このケースでは、自動運転車は直進し歩行者三人を犠牲にする(上の写真左側)。または、自動運転車はハンドルを切りブロックに衝突し、搭乗者三人が犠牲になり歩行者を救う(上の写真右側)。被験者は二つの中から自動運転車が取るべきアクションを選ぶ仕組みとなる。

回答を集約し解析

このように、MIT Media LabはMoral Machineを公開し、クラウドソーシングの手法で回答を取集した。その結果、過去四年間で世界233か国から100万人を超える被験者から回答が集まった。世界最大規模のトロッコ問題の世論調査となり、自動運転車が取るべき倫理的アクションについて知見を得ることができた。(Moral Machineのサイトで回答すると自分の倫理観は世界の標準と比べどの位置にあるかが分かる。)

アルゴリズムに求めること

論文は回答結果を解析し、自動運転車が取るべき倫理的なアクションについて、9のケースにまとめ、その順位を示している(下の写真、棒グラフの長さが重要度を示す)。自動運転アルゴリズムが考慮すべき要因として、歩行者の性別、社会的地位、年齢などをあげている。その結果、アルゴリズムに求めることのトップ3は、「ペットより人の命を救う」、「一人でも多くの人命を救う」、「老人より若者の命を救う」という結果が示された。

出典: Iyad Rahwan et al.

地域による特性

一方、自動運転車に求める倫理的なアクションは国により際立った特性を示していることも分かった。国ごとの特徴を分類すると、世界を三つのグループに分けることができる。Western(米国や欧州)、Eastern(日本を含むアジア圏)、Southern(南米など)の三つに区分でき、これらグループ内では共通の特性を示した(下の写真、グラフは9のケースについて重要度を示す)。

Easternの特性:老人の命を救う

Easternには日本や中国や韓国などが含まれており、国は異なるが同じ特性を示している(下の写真中央)。具体的には、自動運転車は「老人と若者のどちらの命を救うべきか」について、両者の間に違いはなく、特に若者の命を優先する必要はないと回答している(中央のグラフで「Sparing the Youngの値がゼロ」)。これは孔子思想の影響で、年配の人を尊敬する文化に起因すると分析している。

出典: Iyad Rahwan et al.  

Westernの特徴:多くの人命を救う

Westernは9のケースについてどれも重要だという結果を示している(上の写真左側)。特に、Westernは「できるだけ多くの人命を救う(Sparing More)」ことを求めているのに対し、Easternはこの項目につては重要視していない。また、Southernは「社会的地位の高い人を救うべき(Sparing Higher Status)」と答えている(上の写真右側)。個人主義が価値観を構成するWesternは多くの人命を、貧富の差が激しいSouthernは社会的地位の高い人を救う傾向がある。

地域にあったアルゴリズム

世界で共通な倫理アルゴリズムが議論されるが、この研究により危険回避の方式は地域により大きく異なることが分かった。つまり、アジアでは老人の命を守る自動運転車が求められるが、南米では社会的地位の高い人を守るクルマが評価される。自動車メーカーはこれら消費者の要望に沿ったアルゴリズムを開発する必要がある。また、政府機関は同様に、市民の要望に沿った形で法令を整備することが求められる。

これを実現するのは難しい

しかし、この思考実験を自動運転技術に落とし込むには、解決すべき課題が少なくない。コンピュータビジョンが歩行者の性別や年齢や服装を判定できるが、自動運転車のセンサーがこれを瞬時に100%の精度で判定するのは難しい。また、交通事故は物理現象が複雑に絡み合い、誰が死亡するかの予測は限界があり、怪我の度合いも考慮する必要がある。このため、最初のステップとしては単純なモデルから考察を始めることになる。もうすでに、ペットではなく人命を優先する技術などが開発されてる。

倫理的なクルマとは

セーフティドライバーが搭乗しない無人の自動運転車が走行を始めたが、クルマが特定の人の命を救う判断を下すことになる。人間の生死をマシンが決めることになり、自動運転車と生活を共にするには違和感を覚える。不安を解消するためには、自動運転車の安全性や事故を回避する仕組みを説明することが最初のステップとなる。そのうえで、国ごとに何が倫理的なアクションなのかを議論し、倫理的なクルマについてのコンセンサスづくりが必要となる。この研究はその手掛かりを示している。

Waymoはシリコンバレーで無人タクシーの走行試験を開始、ロボットカーが公道を走る

Waymoはカリフォルニア州で自動運転車を無人で運行するための認可を受けた。自動運転車の試験走行ではセーフティドライバーの搭乗が義務付けられているが、これにより無人の車両を公道で走らせることができるようになった。Waymoが認可を受けた最初の企業となり、無人タクシーの営業運転が視野に入ってきた。

出典: Waymo

Waymoの開発経緯

Waymoはカリフォルニア州で2009年から自動運転車の走行試験を展開してきた。当時はToyota PriusやLexusに自動運転技術を搭載し開発が進められた。2015年に、Waymoはハンドルのない自動運転車「Prototype」を開発しLevel 5の自動運転技術の開発を始めた。2017年には、WaymoはFiat Chryslerと提携し、Pacific Minivanをベースとした自動運転車(上の写真)の開発に方向転換した。

アリゾナ州での実証試験

Waymoはシリコンバレーだけでなく全米25の都市で試験走行を展開している。アリゾナ州フェニックスでは、既に、セーフティドライバーが搭乗しない無人タクシーの実証試験を進めている。今年末からは、有料サービスを開始するとしており、無人タクシーの商用運行が始まる。今回の認可でWaymoはカリフォルニア州においてもこれに追随する形となる。

カリフォルニア州での試験条件

カリフォルニア州においてWaymoは限られた条件の下で無人タクシーの試験を実施する。走行地域はWaymoの拠点であるMountain Viewを中心とした地域に限定される(下の写真、青色のシェイドの部分)。自動運転車は昼間だけでなく夜間も走行できる。また、気象条件としては霧や小雨の時も走行できる。これらの条件が発行された認可証に規定されている。クルマは許可された域内であればどこでも走れるが、Waymoは最初は走行場所を限定して試験を始め、自信がつくと試験範囲を拡大するとしている。

出典: Waymo  

問題が発生すると

試験走行中に無人車両で問題が発生すると、規定された手順に従って対応策を取る。もし、自動運転車が状況を理解できない状況に陥ると、クルマは安全に停止して規定のプロセスに従う。クルマが自分で問題を解決できない際は、監視センターにコンタクトして、サポートを受ける仕組みとなる。具体的には、センターの監視員が遠隔操作でクルマを路肩など安全な場所に移動させ、道路の通行を妨げない措置を取る。クルマは無人で走行するが、監視センターが運行状況をモニターする。

カリフォルニア州政府の判断

カリフォルニア州では既に60社近くが自動運転車の走行試験を展開している。自動運転車を運行する際はセーフティドライバーが搭乗し、緊急事態に備えることが義務付けられている。カリフォルニア州は2018年4月、これを改定し、無人車両が公道で走行試験を実施できる法令を制定した。一部の識者からはクルマを無人で走行させることに対する懸念が表明されるなか、カリフォルニア州は技術進化と安全性のバランスを取りながら法令制定に踏み切った。全米では既にアリゾナ州やフロリダ州で無人車両の試験走行が認められている。多くの自動運転車ベンダーが拠点を置くカリフォルニア州はハイテクで首位の座を守るためにもこの措置に踏み切った。

消費者の反応

技術開発が進む中、米国の商品者は自動運転車を信頼していないという厳しい事実がある。元々、米国の消費者は自動運転技術に懐疑的であったが、UberやTeslaの自動運転車が相次いで事故を起こし、この流れが決定的になった。最新の世論調査によると、消費者の40%は自動運転車に乗りたくないと答えている。米国は技術先進国であるが、同時に、消費者の多くは技術を信用していない国でもある。

Waymoの対応策

Waymoは安全なクルマを開発する他に、如何に消費者の信頼を得るかが課題となる。自動運転車開発当初はWaymoは情報を積極的に配信し、著名記者をクルマに乗せ安全性をアピールしていた。しかし、2015年頃から方針を変え、Waymoは自動運転車についての情報発信を抑制的に行っている。自動運転車の新機能や達成した目標などはブログで情報発信するにとどめ、目立ったイベントなどは実施していない。無人タクシーの商用運行で実績を積み、消費者の安心感が広がるのを待つ戦略のようにも思える。

出典: VentureClef  

ロボットカーと一緒に走る

シリコンバレーは自動運転車の実験場で、クルマを運転していると様々な種類の自動運転車に出会う。走っていて一番よく見かけるのはWaymo(上の写真、中央の車両)で、試験車両の台数が多いことが分かる。Waymoの試験走行距離は1000万マイルを超え、技術完成度は他社を大きく引き離しトップを走っている。Waymoの自動運転車と毎日一緒に走行しているが特に不安を感じることはない。しかし、これからはセーフティドライバーが搭乗しないロボットカーが街を走ることになり、何か落ち着かない心持となる。今までと同じアルゴリズムで走行するが、本当に仕様通りに稼働するのか心配でもある。これからはロボットカーと供に暮らすことになり、ドライバーとしては心の準備も必要となる。

Drive.aiは未成熟なAIで安全な自動運転車を開発、テキサス州で実証試験を展開中

Drive.aiはシリコンバレーに拠点を置くベンチャー企業で、社名が示す通り、AIを基軸に自動運転技術を開発している。スタンフォード大学人工知能研究所発のベンチャー企業で、元所長Andrew Ngが役員として経営に参画している。Drive.aiはステルスモードでの開発を終え、2018年7月からテキサス州で実証実験を開始した。

出典: Drive.ai

開発コンセプト

当初、Drive.aiはAIをフル実装した”AI Car”の開発を目指していたが、AIの限界を把握し、AIの弱点を補完するクルマを開発した。業界最先端のAIとDeep Learning技法を実装しているが、AIだけでは安全なクルマを開発できない。このため、クルマと人間とのインターフェイスを工夫した安全なクルマをデザインした。

テクノロジー

自動運転車はミニバン「Nissan NV200」にセンサー(Lidar、カメラ、レーダー)を搭載した構成(上の写真)となる。Drive.aiはオープンソースを最大限に活用して自動運転ソフトウェアを開発した。ソフトウェアは「Robot Operating System」 (ROS、ロボットや自動運転車制御ソフト)をベースに構築され、画像認識システムは「Director」を使っている。Directorとはロボット向けのコンピュータビジョン開発環境で、DARPA Robotics Challengeでマサチューセッツ工科大学により開発された。

実証試験

Drive.aiはテキサス州フリスコ市と提携して、自動運転車の試験走行を進めている。街中のオフィス街で、事前に定めた経路を走行する自動運転シャトルとして運行している。Drive.aiはクルマが安全に走行するだけでなく、周りのクルマや歩行者も安全に移動できるよう工夫を凝らしている。自動運転車は人間とは違い特異な挙動をするため、クルマは目立つようデザインされ、周囲に注意を喚起している。同時に、セミナーなどを通じて、地域住人に自動運転車について教育を実施している。

インターフェイス

自動運転車はソーシャルインタラクション(社会とのコミュニケーション)の問題を抱えている。ドライバーは他のドライバーや歩行者と視線を交わし意図を伝達する。自動運転車は視線を交わす代わりに、車両前後にディスプレイを搭載し、クルマの意思を表示する。例えば、横断歩道では「Waiting for You to Cross」と表示し(下の写真)、歩行者が横断するために停止していることを示す。

出典: Drive.ai

遠隔監視

自動運転車は自律的に走行するが、監視センターで運行状態をモニターする。クルマは自動運転中に問題が発生すると、監視センターに連絡し、人間の支援を仰ぐ。これを「Tele-Choice」と呼び、自動で運行できない際は、クルマは安全な場所に停車し、オペレーターが走行方法を指示する。AIはこれらの情報を学習し、アルゴリズムは運転テクニックを向上させる。

オブジェクト認識

クルマは周囲のオブジェクトを把握し、経路を選択し、自動で走行する。Lidarで捉えたイメージは3Dポイントクラウドで、また、カメラで捉えたイメージはビデオ画像として車内のディスプレイに表示される(下の写真)。乗客はこの画面で、クルマは周囲をどう理解しているかが分かり、安心して乗ることができる。

出典: Drive.ai  

走行データを解析

走行状態を可視化したデータはAIソフトウェア開発や教育でも利用される。走行データは人間による運転とAIによる運転で収集される。これらのデータを早送りしたり、巻き戻したりしながら、走行状態を検証する。問題が発生すると可視化データで走行状態を再生し、原因を究明する手順となる。

自動運転シャトル利用法

クルマを利用する時は、スマホアプリで配車をリクエストし、指定された場所で乗車する。クルマに乗りドアを閉めて、スタートボタンを押すと発進する。クルマは指定されたコースを走行し、目的地まで乗客を運ぶ。クルマが走行するルートは事前に3Dマップが製作され、これをベースに自動走行する。

ロードマップ

当初、Drive.aiは高価なLidarを使わないで、低価格な光学カメラを使った自動運転車の開発を進めていた。カメラで撮影したイメージをDeep Learningの技法で処理し、オブジェクトを識別する。また、オブジェクト認識からクルマの経路計算までをAIで実装する予定であった。今回の発表では、高度なAIを実装したAI Carは登場しなかったが、背後で開発は継続していると思われる。次はどんなクルマが登場するのか、注視していく必要がある。