Uber自動運転車が道路を歩いていた女性をはね死亡さる事故を起こした。事故原因については調査中であるが、Uberのシステムに重大な問題があるとの見方が出ている。この事故を受け、アリゾナ州は無期限でUberの走行試験を認めないことを発表。重大事故でUberへの信頼が大きく低下している。

事故現場

事故は2018年3月18日、Tempe (アリゾナ州フェニックス郊外) で起こった。自動運転車Volvo XC90 SUVが、時速40マイルで走行中、女性をはねた。女性は自転車を押しながら、道路を左から右に横切っていた。クルマは減速することなく直進し、女性をはねて死亡させた。クルマにはセーフティドライバーが搭乗していたが、危険回避措置を取ることはなかった。(下の写真が事故現場で、女性は左側の中央分離帯の辺りから、右方向に歩いていた。Uberは一番右の車線を走っていた。)

自動運転車のセンサー

Uber自動運転車は複数のセンサーを搭載し、クルマ周囲のオブジェクトを認識する (下の写真)。屋根の上に１台のLidar (レーザーセンサー) と７台のカメラを搭載している。また、レーダーを設置しており、周囲３６０度をモニターする。

Lidarは歩行者を認識する

事故が起こったのは午後１０時ころで、夜間走行中の出来事であった。周囲が暗くてもLidarはオブジェクトを認識し、歩行者ほどの大きさであれば確実に検知できる。UberはVelodyne社製のLidar (HDL-64E)を搭載しており人物を把握する (下の写真、Lidarが捉えたポイントクラウド)。Velodyneはコメントを発表し、このケースではLidarは女性と自転車を確実に認識できるとしている。また、回避措置を取る判断はLidarではなくシステムがするとも付け加え、Uber自動運転ソフトウェアに問題があるとの見解を示している。

カメラもイメージを捉えている

Uberは屋根の上にカメラを７台搭載しており、前方のカメラは近距離と遠距離をカバーする。カメラは前のクルマが減速するのを把握し、また、歩行者を認識する。更に、信号機や道路標識を読み取るために使われる。事故直後のニュース報道を見ると、夜間であるが道路照明灯が設置されており、一定の明るさであることが分かる。カメラの性能は公表されていないが、ダイナミックレンジが広く、女性を捉えている可能性が高い。

ダッシュボードカメラ

自動運転を制御するカメラとは別に、ダッシュボードにモニター用のカメラが備え付けられ、前方と車内を撮影していた。事故捜査に当たっている警察 (Tempe Police Department) は、ダッシュボードカメラの映像を公開した。これを見ると歩行者は左から右に道路を横断していることが確認できる (下の写真)。また、クルマは減速しないでそのまま直進したことも分かる。

セーフティドライバー

車内を撮影したビデオを見ると、セーフティドライバーは前方を見ておらず、視線を下に落としていたことも判明した。前を注視し問題が発生するとそれを回避するのがセーフティドライバーの任務であるが、この事故ではこの措置が取られなかった。

レーダーは補助的な役割

Uberはクルマ周囲３６０度を見渡せるレーダーを搭載している。レーダーは走行中のクルマや停車しているクルマなどを把握する。レーダーはドップラー効果を利用して、オブジェクトの移動速度を把握する。しかし、レーダーの解像度は低く、オブジェクトの位置をピンポイントで特定することはきない。このため、一般にレーダーは単独で使われることはなく、レーダーが歩行者を捉えても、アルゴリズムはこの情報だけでブレーキをかけるようにはプログラムされていない。

事故調査が始まる

UberのLidarは確実に歩行者を認識しており、カメラもその画像を捉えている可能性が高い。それにもかかわらず、クルマはなぜ回避措置を取らなかったのか、議論を呼んでいる。ここが事故原因を解明するポイントとなる。現在、国家運輸安全委員会 (National Transportation Safety Board、NTSB) が事故調査を進めている (下の写真)。NTSBは航空機事故だけでなく、交通事故でも重要な案件を担当する。自動運転車事故のように、クルマのソフトウェア解析が求められる高度な案件は、NTSBが原因を究明する。

システムに問題か

NTSBによる調査結論は出ていないが、Uberの自動運転システムに重大な問題があるとみられている。New York TimesはUberのDisengagement (自動運転機能解除措置) の頻度は13マイルと報道している。Disengagementとは、自動運転車が問題に遭遇し、セーフティドライバーが自動運転モードをを解除する措置を示す。つまり、Disengagementを実行することは、自動運転車が危険な状態にあることを意味し、不具合の件数とも解釈できる。Uberではこれが13マイル毎に発生し、システムはまだまだ未熟な状態にあることが分かる。一方、WaymoのDisengagementの頻度は5,600マイルで、両者の製品完成度には大きな開きがある。

アリゾナ州知事による試験運行停止命令

アリゾナ州知事 (Doug Ducey) は、自動運転車の市街地走行試験に寛大であるが、今回の事故を受けて、Uberに試験走行を停止する命令を下した。更に、事故の原因は間違いなくUberにあるとも述べ、厳しい姿勢で対応していくことを明らかにした。これ以上のコメントはないが、Uberはアリゾナ州で自動運転車走行試験を再開できないとのうわさも広がっている。州知事は、事故の少し前に、Waymo無人タクシーの運行を認めたばかりである。この事故により、アリゾナ州だけでなく他の州でも、自動運転に対する規制が厳しくなると見られている。

自動運転車の開発方針

Uber自動運転車事故は、システムが不安定であるにもかかわらず、セーフティドライバーが注意を怠り、回避措置をとらなかったことに原因がある。ネット上には、Uber自動運転車が市街地を軽快に走行しているビデオがたくさんあり、技術が完成したようにも思える。しかし、実際にはシステムは未完成で、市街地を走るにはリスクが高いことを認識させられた。Uberはこれから自動運転車開発をどう続けていくのか、大きな判断を迫られる。

アメリカ食品医薬品局 (FDA、Food and Drug Administration) は23andMeに対し、遺伝子解析で乳がん発症のリスクを検査することを認可した。これにより消費者は、乳がんを発症するかどうかを知ることができるようになった。FDAがこの手法を認可したことで、米国では個人向け遺伝子解析サービスが急拡大する勢いとなってきた。

23andMeの遺伝子解析サービス

FDAから認可を受けたのはMountain View (カリフォルニア州) に拠点を置く23andMeというベンチャー企業で、個人向け遺伝子解析サービスを提供している (上の写真)。23andMeは、遺伝子配列の変異から被験者がどんな病気を発症するのかを予測し、米国医療市場に衝撃を与えた。しかし、FDAは2013年、予測精度が十分でなく、消費者が不要の手術を受けるなど危険性が伴うとして、業務停止命令を出した。このため、23andMeは医療解析サービスを中止し、人種解析サービスに特化して事業を進めてきた。

FDAから認可を受ける

その後23andMeは事業内容を改良し、2017年4月、FDAは10種類の病気に限り遺伝子解析サービスを認可した。ここにはパーキンソン病やアルツハイマー病が含まれており、消費者は病気を発症するリスクを把握できるようになった。これに続き、2018年3月、FDAは乳がんや子宮頸がんに関する遺伝子解析サービスを認可した。病院では乳がんのスクリーニングで遺伝子解析が使われているが、消費者は23andMeのサービスを使ってがん発症のリスクを知ることができるようになった。

BRCA1とBRCA2遺伝子

乳がん検査では「BRCA1」と「BRCA2」という遺伝子(下の写真)を解析する。BRCA1とBRCA2は共に、ガン発症を抑える機能を持ち、がん抑制遺伝子 (Tumor Suppressor Gene) と呼ばれる。BRCA1とBRCA2は傷ついた遺伝子を修復するためのたんぱく質を生成する。しかし、BRCA1とBRCA2がダメージを受けると、この修復機能が影響を受け、がん発症のリスクが高まる。特に、女性の乳がんと子宮頸がんの発症が高まる。男性にも関与ており、前立せんがんの発症リスクが高まる。

遺伝子変異とリスク

BRCA1とBRCA2の遺伝子変異ががん発症のリスクを高めるが、これらはAshkenazi Jewish (ユダヤ人のグループ) に多く見られる。このグループの40人に一人がこの遺伝子変異を持つとされる。また、この遺伝子変異を持つ女性の45-85%が70歳までにガンを発症するともいわれている。女優Angelina JolieはBRCA1の遺伝子変異が見つかり、予防のために両乳腺を切除する手術を受けたことを公表した。このニュースのインパクトは大きく、BRCA遺伝子変異と乳がんの関係が認識され、遺伝子検査への関心が高まった。

遺伝子解析の限界

BRCA1とBRCA2に注目が集まっているが、これらの遺伝子変異が検出されなければガン発症のリスクがゼロになるというわけではない。23andMeが試験する範囲は限られており、がん発症リスクをすべて網羅するものではない。BRCA1とBRCA2の遺伝子変異の数は1000を超えるが、23andMeはこのうちの三つを対象に検査する。また、がん発症はライフスタイルとも大きく関係しているが23andMeはこの要素は勘案していない。乳がん発症の原因は数多いが、23andMeはその中で代表的なBRCA1とBRCA2に特化してリスクを評価している。

解析結果をどう解釈すればいいのか

このように遺伝子解析は複雑で完全なものではなく、23andMeから受け取るレポートをどう解釈すればいいのか、消費者から戸惑いの声が聞かれる。これに対して、CEOであるAnne Wojcickiは、ブログの中で、解析結果の活用方法を述べている。23andMeの遺伝子検査は「病気を診断するものではなく」、また、「病被験者が検査結果を見て医療方針を決めてはならない」としている。つまり、検査結果の解釈については、病院の医師などに相談し、判断を仰ぐべきとしている。また、23andMeは、遺伝子解析専門のカウンセラー(Genetic Counselors)に相談してアドバイスを受けることを推奨している。

遺伝子解析専門カウンセラー

遺伝子解析専門カウンセラーとは馴染みのない名前であるが重要な役割を担っている。病院の医療チームの一員で、遺伝子疾病 (Genetic Disorder) に関し、患者にカウンセリングする職務である。サンフランシスコ地区では多くの病院で遺伝子解析専門カウンセラーを置いており患者をサポートしている (下の写真、大手病院Kaiser Permanenteの事例)。個人向け遺伝子解析サービスが急増する中、解析結果を解釈する仕事が増えている。カウンセラーは、遺伝子解析結果を被験者に分かりやすく説明し、必要であれば専門医を紹介する。

病院の先生は否定的

病院の医師の多くは消費者が独自に遺伝子解析を受けることに対し否定的な考えを持っている。病院では家系に乳がんの病歴がある患者に限り遺伝子解析などでスクリーニングテストを実施している。この条件に該当しない患者が遺伝子検査を受けることは実用的でなく、また、心理的な負担が大きいとしている。

もし遺伝子変異が見つかると

医師の考え方とは裏腹に、多くの消費者が既に23andMeの遺伝子検査を受けている。今までは、BRCA1とBRCA2に関する解析結果は被験者に通知されなかったが、FDAの認可を受け、23andMeはその結果を会員に順次通知する。この結果、発がんリスクが高いと判定された被験者は、23andMeの指針に沿ってカウンセラーや病院の医師の診察を受けることになる。女性の場合は乳がんなどで、男性の場合は前立せんがんが対象となる。

解析と治療のギャップ

これから相談を受ける医師がどのように対応するのかは見通せないが、病院で詳細な検査を実施し、定期的にスクリーン検査を受けることなどが予想される。このように23andMeは遺伝子解析結果を示すにとどまり、その後の医療措置はカウンセラーや医師に任された形となっている。消費者としては両者の間に大きなギャップを感じ、サービスが完結していないとも感じる。

未完のサービスであるが

未完のサービスであるが消費者の間で遺伝子解析サービスの利用者が急増している。23andMeで遺伝子検査を受け、アルツハイマー病を発症するリスクが高いと診断された消費者は、介護保険を購入する動きが急拡大している。病気のリスクを把握し、それに応じてライフプランを修正する人が増えている。消費者は自分の将来の健康状態を知りたいという欲求が強く、問題を抱えながらも、個人向け遺伝子解析サービスが急成長している。

Deep Learningで人がいつ死ぬかを正確に予測できるようになった。アルゴリズムに医療データを入力すると、医師より正確に患者の死亡時期を算出する。AIに余命を宣告されるのは違和感を覚えるが、病院ではこれが重要な情報となる。

スタンフォード大学の研究

スタンフォード大学の研究チームは入院患者の余命をDeep Learningで予測する研究成果を発表した。論文「Improving Palliative Care with Deep Learning」によると、アルゴリズムは患者の余命を93%の精度で予測する。この研究成果は終末期医療を上手く運営するために使われる。現在は医師が終末期医療が必要な患者を選び出すが、余命を長めに推定する傾向が強く、多くの患者がケアを受ける前に亡くなっている。

Palliative Care

スタンフォード大学大学病院 (上の写真) は終末期医療を提供している。これはPalliative Care (パリアティブ ケア) と呼ばれ、余命一年以内の患者を対象とし、治療を進めるとともに本人の意思を尊重し、苦痛や不安を和らげる処置も取られる。Palliative Careは患者とその家族の生活の質を向上させることを目的にしている。

ケアを受ける患者

大学病院はPalliative Careを運営するものの、この治療が必要な患者を上手く特定できないという問題を抱えている。このケアが必要な患者とは余命が3か月から12か月の患者と定義している。このケアを受けるには前準備で3か月かかり、また、12か月を超えてケアを継続するには医師やナースの数が足らない。

医師による余命の算定

このため、担当医師が余命が3か月から12か月の患者を特定し、Palliative Careに移管する仕組みとなっている。しかし、多くのケースで担当医師は患者の余命を長めに予測する。そのため、患者の多くはPalliative Careを受けることなく死亡する。医師は患者の電子カルテのデータを参照し、今までの経験から余命を推定する。人間としての定めなのか、余命の算定は長めになる場合が多い。

患者データとアルゴリズム

このような背景のもとでDeep Learningによる余命算定の研究が進められた。アルゴリズム開発で、スタンフォード大学病院の患者データベース「Stanford Translational Research Integrated Database Environment」が使われた。これは患者の電子カルテ情報を集約したもので、アルゴリズム教育と検証に使われた。患者医療データをアルゴリズムに入力すると、死亡時期を算定する。具体的には、Deep Learningモデルは、患者が3か月から12か月以内に死亡するかどうかを判定 (Binary Classification) する。

アルゴリズム教育

アルゴリズム教育のために221,284人の患者のデータが使われた。この中には3か月から12か月の間に亡くなった患者(15,713人)と、12か月を超えて生存した患者(205,571人)が含まれている。これらのデータを使ってDeep Learningアルゴリズムを教育し、その結果が検証・試験された。

ネットワーク構造

アルゴリズムはDeep Neural Networkで、入力層と中間層 (18段) と出力層から成る。入力層は13,654のディメンション (13,654種類のデータを入力) で、出力層はスカラーで3-12か月の間に死亡する・しないを判定する。ネットワーク構造はトライアルエラーの方式で多くのモデルが試された。これはHyper-Parameter検索と呼ばれ、ネットワークの基礎となる構造 (ネットワークの段数やアクティベーションファンクションの種類など) を決めていく。

アルゴリズムの評価

完成したアルゴリズムは様々な角度から評価された。対象となる患者を判定する精度 (AUC) は0.93で (上の写真)、100人の患者を選ぶと93人が正しいということになる。また、評価指標として「Precision Recall」を示している。アルゴリズムのPrecision (精度) が0.9の時、Recall (範囲) は0.34をマークした。アルゴリズムの精度が0.9のとき、全対象患者の0.34をカバーするという意味になる。アルゴリズムは精度が高く病院で使えることを示している。

アルゴリズムの判定メカニズム

この研究ではアルゴリズムの精度だけでなく、アルゴリズムが判定した根拠を解析する試みが行われた。複雑な構造のネットワークを直接解析するのは難しいので、入力するデータのパラメーターを変更することで、アルゴリズムが判定した根拠を導き出した。つまり、アルゴリズムのブラックボックスを開けて、その仕組みを垣間見たことになる。

医学的な根拠は

入力データのパラメータを変更することで、患者の生存率を判定する要因を導いた。入力データの種類は、病状だけでなく、治療措置や検査回数など幅広い情報を含む。その結果、アルゴリズムが死亡時期を判定するときに重視した項目は、膀胱腫瘍、前立腺腫瘍、病理検体摘出措置、放射線検査回数などとなる。病気の種類で余命が決まることは直感的に理解できるが、アルゴリズムは病理検体が抽出されることやMRI検査などの回数から死亡時期を算出した。これ以上の説明はないが、MRI検査を頻繁に受けることは、ガンが転移していることの傍証になるのかもしれない。

米国でPalliative Careが広がる

米国内で多くの病院がPalliative Careの導入を進めている。2008年には病院の53%がこのケアを提供していたが、2015年には67%に増加している。Palliative Careを提供する病院が増えているものの、必要な患者の7-8%しかこのケアを利用していないという統計もある。このギャップは病院側のリソース不足に加え、上述の通り、担当医師が対象となる患者を正しく判定できないという問題がある。このため、Deep Learningなどテクノロジーの果たす役割が期待されている。

Apple Watchは健康管理のウエアラブルとして人気が高い。Apple Watchは心拍数や歩行数を計測でき、日々の運動量を知ることができる (下の写真、一日の心拍数の推移)。いま、これらのデータをAIで解析し、病気を検知する研究が進んでいる。心臓疾患や糖尿病を高精度で検知でき、Apple Watchの役割が見直されている。消費者グレードのウエアラブルでも、AIと組み合わせれば医療機器になることが分かってきた。

心拍数から病気を判定

この研究はCardiogramとカリフォルニア大学サンフランシスコ校 (UCSF) が共同で実施している。Cardiogramはサンフランシスコに拠点を置くベンチャー企業で、Apple Watchで測定した身体データを解析し、健康管理のためのアプリを提供している。UCSFはスマホなどを使い心臓疾患を予知し、病気発症を予防する研究「Health eHeart Study」を展開している。両者が共同し、Apple Watchで計測したデータをAIで解析することで、不整脈を検知できることを証明した。更に、同じ手法で、糖尿病、高血圧症、不眠症を検知できることを公表した。

DeepHeartアルゴリズム

Apple Watchは搭載しているセンサーで心拍数や歩行数などを測定する。Cardiogramはこれを解析するニューラルネットワーク「DeepHeart」を開発した。Apple Watchで収集した身体データを入力すると、DeepHeartは不整脈の一種である心房細動 (Atrial Fibrillation) を検知する。臨床試験の結果、97%の精度で心房細動を検知できたとしている。

糖尿病などの検知

これに続き、DeepHeartを使って糖尿病や高血圧症などを検知する研究が進められた。研究結果は論文「DeepHeart: Semi-Supervised Sequence Learning for Cardiovascular Risk Prediction」として公表された。これによると、Apple Watchで収集するデータをDeepHeartで解析することで、糖尿病、高血圧症、不眠症を検知することに成功。この研究では、14,011 人の被験者の2億件のデータが使われた。更に、UCSFの協力を得て、大学病院でこれら被験者を検査し医療データを収集した。

アルゴリズムの精度

Apple Watchで計測したデータと医療データを使いDeepHeartアルゴリズム (下の写真) を教育した。この結果、DeepHeartは85%の精度で糖尿病を判定する。また、不眠症は83%の精度で、高血圧症は81%の精度で判定できる。従来から、心拍数とこれらの病気の関係について、機械学習を使った研究が進んでいるが、DeepHeartはこれらに比べ精度が大幅に改善された。

DeepHeartのネットワーク構造

DeepHeartはConvolution層 (上の写真、下から二段目、シグナルを解析) とLSTM層 (上の写真、下から三段目、時間に依存するデータを解析) を組み合わせた構造をとる。このネットワークにApple Watchで収集したデータを時間ごとに入力する (上の写真、最下段)と、病気の有無を判定する (上の写真、最上段)。具体的には、時間ごとの歩行数と心拍数を入力すると、アルゴリズムはそれぞれのタイムステップで心房細動、糖尿病、高血圧症、不眠症の症状があるかどうかを判定する。

AIのスイートスポット

医療分野はAIとの相性が良く、患者のデータをニューラルネットワークで解析することで、様々な知見を得ることができる。このため、医療分野でAIの導入が急進し、ここがAIのスイートスポットとなっている。

医療データが少ない

しかし、医療分野独特の問題点も抱えている。それは、医療分野ではアルゴリズム教育に使うデータが極めて少ないことだ。DeepHeartの研究では、1万人余りの被験者が大学病院で問診に回答する形でデータを提供した。つまり、DeepHeartは１万件という少ないデータで病気を検知することが求められた。これに対し、画像認識アルゴリズム (Google Inceptionなど) を開発する際は100万件を超える教育データがそろっている。医療分野では数少ないデータでアルゴリズムを教育する技法が求められる。

Semi-supervised Sequence Learning

このためDeepHeartの開発で「Semi-supervised Sequence Learning」という技法が用いられた。これはネットワークを「Sequence Autoencoder」としてプレ教育する技法である。 Sequence Autoencoder (下のダイアグラム) とは、Recurrent Network (時間に依存する処理、下のダイアグラムの箱の部分) で構成されるネットワークで、入力シークエンス (左半分) を読み込み、その結果をベクトル量としてパラメータに格納する。次に、学習したパラメータから、ネットワークは入力シークエンスを再現 (右半分) する。具体的には、言葉の並び (W, X, Y, Z, eos) をSequence Autoencoderに入力すると、ネットワークはその順序を学習し、それに従って言葉の並びを出力する。

DeepHeartをプレ教育する

研究では、DeepHeartをSequence Autoencoderとしてプレ教育し、獲得したパラメータをネットワークの初期値として使った。こうすることでの教育プロセスが効率化され、少ない医療データでDeepHeartを教育できる。医療データが1万件と少なくても、DeepHeartの判定精度を高めることができた。

医学的な根拠

そもそも心拍数が糖尿病や高血圧症や不眠症とどう関係するのか、医学の観点からの研究も進められてきた。心臓は神経細胞を通し、多くの臓器とつながっている。このため、HRV (Heart Rate Variability) と病気の間に関係があると指摘されている。HRVとは心拍リズムの乱れを示す指標である。人は落ち着いている時は心拍リズムは一定でなくHRVは高い。しかし、ストレスがかかると心拍数が上がり、心臓が規則正しく鼓動しHRVが低くなることが分かっている。

心拍リズムと糖尿病

このためHRVと病気の関係についての研究が進められてきた。HRVと糖尿病の関係は「Diabetes, glucose, insulin, and heart rate variability: the Atherosclerosis Risk in Communities (ARIC) study」として発表されている。この論文はHRVの低下と初期の糖尿病の間に関係があると結論づけている。Cardiogramはこの研究成果に基づきDeepHeartを開発した。

ロードマップ

DeepHeartはApple Watchで計測するデータを使い、不整脈、糖尿病、高血圧、不眠症を検知できることを証明した。Cardiogramは次のステップとして、これら疾病を検知した利用者に対し、治療法を提示することを計画している。アプリは病気の症状があることを検知すると、これら患者に対し、医療機関で証明された対処方法を提示す。アプリが病院の医師に代わり診断し、対処療法を示す構想を描いている。

Apple WatchとAIの組み合わせ

Apple Watchは人気のウエアラブルであるが、売り上げ台数は当初の見込みを下回っている。理由はセンサーの精度が高くないことで、Apple Watchの健康管理機能は限定的との評価が広がっている。(上の写真、Apple Watchで測定した筆者の心拍数、一目でエラーと分かる箇所が多い。) しかし、Apple WatchにAIを組み合わせることで、病気を高精度で検知できることが示された。Apple Watchで糖尿病と診断されるのは怖いが、早期に病気の兆候を見つけ、病気を克服するという使い方もでてくる。AIを組み合わせることでApple Watchの役割が大きく変わり、医療デバイスとして再出発する気配を感じる。