MIT Media Labは倫理的な自動運転技術を研究している。自動運転車開発ではトロッコ問題(Trolley Problem)が重要な研究テーマとなる。自動運転車が事故を避けられない状況に陥ったとき、誰を救い、誰を犠牲にするかが議論となる。MIT Media Labはこの問題を一般化し、全世界で世論調査を実施し、その結果を公表した。自動運転車に求める倫理判断は普遍的ではなく、地域で考え方が大きく異なることが分かった。日本を含むアジア圏は欧米と比べ際立った特徴を示している。

出典: Iyad Rahwan et al.

Moral Machine

研究結果は「The Moral Machine experiment」として科学雑誌Natureに掲載された。MIT Media Labはトロッコ問題を一般化した「Moral Machine」という研究を進めている。トロッコ問題とは倫理学の思考実験で、ある人を救うためにある人を犠牲にすることは許されるか、というテーマが議論される。Moral Machineはこのテーマを自動運転車に適用し、13のケースを作り出し、公開実験としてウエブサイトに掲示している。

ウェブサイトでの公開試験

全世界の利用者はMoral Machineにアクセスし、これらの質問に回答することができる。13のケースについて、自動運転車が取るべきアクションを投票することができる。具体的には、自動運転車のブレーキが故障した時、アルゴリズムは人命を救うためにどう判断すべきかが示されている。ここには二つのアクションが提示され、被験者はどちらが倫理的な判断であるかを回答する(上の写真)。このケースでは、自動運転車は直進し歩行者三人を犠牲にする(上の写真左側)。または、自動運転車はハンドルを切りブロックに衝突し、搭乗者三人が犠牲になり歩行者を救う(上の写真右側)。被験者は二つの中から自動運転車が取るべきアクションを選ぶ仕組みとなる。

回答を集約し解析

このように、MIT Media LabはMoral Machineを公開し、クラウドソーシングの手法で回答を取集した。その結果、過去四年間で世界233か国から100万人を超える被験者から回答が集まった。世界最大規模のトロッコ問題の世論調査となり、自動運転車が取るべき倫理的アクションについて知見を得ることができた。(Moral Machineのサイトで回答すると自分の倫理観は世界の標準と比べどの位置にあるかが分かる。)

アルゴリズムに求めること

論文は回答結果を解析し、自動運転車が取るべき倫理的なアクションについて、9のケースにまとめ、その順位を示している(下の写真、棒グラフの長さが重要度を示す)。自動運転アルゴリズムが考慮すべき要因として、歩行者の性別、社会的地位、年齢などをあげている。その結果、アルゴリズムに求めることのトップ３は、「ペットより人の命を救う」、「一人でも多くの人命を救う」、「老人より若者の命を救う」という結果が示された。

出典: Iyad Rahwan et al.

地域による特性

一方、自動運転車に求める倫理的なアクションは国により際立った特性を示していることも分かった。国ごとの特徴を分類すると、世界を三つのグループに分けることができる。Western(米国や欧州)、Eastern(日本を含むアジア圏)、Southern(南米など)の三つに区分でき、これらグループ内では共通の特性を示した(下の写真、グラフは９のケースについて重要度を示す)。

Easternの特性：老人の命を救う

Easternには日本や中国や韓国などが含まれており、国は異なるが同じ特性を示している(下の写真中央)。具体的には、自動運転車は「老人と若者のどちらの命を救うべきか」について、両者の間に違いはなく、特に若者の命を優先する必要はないと回答している(中央のグラフで「Sparing the Youngの値がゼロ」)。これは孔子思想の影響で、年配の人を尊敬する文化に起因すると分析している。

出典: Iyad Rahwan et al.

Westernの特徴：多くの人命を救う

Westernは9のケースについてどれも重要だという結果を示している(上の写真左側)。特に、Westernは「できるだけ多くの人命を救う(Sparing More)」ことを求めているのに対し、Easternはこの項目につては重要視していない。また、Southernは「社会的地位の高い人を救うべき(Sparing Higher Status)」と答えている(上の写真右側)。個人主義が価値観を構成するWesternは多くの人命を、貧富の差が激しいSouthernは社会的地位の高い人を救う傾向がある。

地域にあったアルゴリズム

世界で共通な倫理アルゴリズムが議論されるが、この研究により危険回避の方式は地域により大きく異なることが分かった。つまり、アジアでは老人の命を守る自動運転車が求められるが、南米では社会的地位の高い人を守るクルマが評価される。自動車メーカーはこれら消費者の要望に沿ったアルゴリズムを開発する必要がある。また、政府機関は同様に、市民の要望に沿った形で法令を整備することが求められる。

これを実現するのは難しい

しかし、この思考実験を自動運転技術に落とし込むには、解決すべき課題が少なくない。コンピュータビジョンが歩行者の性別や年齢や服装を判定できるが、自動運転車のセンサーがこれを瞬時に100%の精度で判定するのは難しい。また、交通事故は物理現象が複雑に絡み合い、誰が死亡するかの予測は限界があり、怪我の度合いも考慮する必要がある。このため、最初のステップとしては単純なモデルから考察を始めることになる。もうすでに、ペットではなく人命を優先する技術などが開発されてる。

倫理的なクルマとは

セーフティドライバーが搭乗しない無人の自動運転車が走行を始めたが、クルマが特定の人の命を救う判断を下すことになる。人間の生死をマシンが決めることになり、自動運転車と生活を共にするには違和感を覚える。不安を解消するためには、自動運転車の安全性や事故を回避する仕組みを説明することが最初のステップとなる。そのうえで、国ごとに何が倫理的なアクションなのかを議論し、倫理的なクルマについてのコンセンサスづくりが必要となる。この研究はその手掛かりを示している。