コロナ社会で安全に生活するには、感染者を把握し、拡大を防ぐことが必須条件となる。このためPCR検査を定期的に実施し、感染状態を把握し、コロナの封じ込めを試みている。感染者の特定には時間がかかるため、PCR検査に代わりウェアラブルで病気を把握する研究が始まった。ウェアラブルで被験者の動きをモニターし、収集したビッグデータをAIで解析し、発病前に感染の有無を判定する。

出典: Evidation Health

研究プロジェクト

これは米国政府の新型コロナに関する先進研究で、シリコンバレーの新興企業Evidation Healthが手掛けている。Evidation Healthはウェアラブルで被験者のデータを収集し、それを機械学習の手法で解析し、感染したことを判定する。研究資金は米国生物医学先端研究開発局(Biomedical Advanced Research and Development Authority)とビル&メリンダ・ゲイツ財団(Bill & Melinda Gates Foundation)はから拠出され、研究成果は一般に公開される。

Evidation Healthとは

Evidation Healthは医療分野におけるAI企業で、身体のビッグデータを機械学習の手法で解析し、新たな知見を得る研究を進めている。新型コロナの研究では同社のプラットフォーム「Achievement platform」でデータ解析が実行される(下の写真)。これは医療ビッグデータを解析するためのプラットフォームで、被験者から採取したデータをアルゴリズムで解析するための様々な機能を備えている。医療機関はこのプラットフォームを利用して新しいアルゴリズムやそソフトウェアを開発する。例えば、薬に対する反応を把握し、患者に最適な治療法を確立することが可能となる。

出典: Evidation Health

新型コロナ感染を検知

この研究では300人の被験者から健康に関するデータを収集し、このプラットフォームで解析する。具体的には、ウェアラブルで睡眠状態や活動状態などの挙動に関するデータを収集し、また、被験者は健康状態を定期的にレポートする。対象者はコロナ患者を治療する医療従事者などで、感染リスクが高いグループの協力を得て進められる。

倫理的にデータを収集

この研究では4YouandMeが被験者のデータを収集するプロセスを担う。4YouandMeは非営利団体で、医療データの収集を倫理的に実行する。個人データはスマホとスマートリング「Oura Ring」(下の写真)で収取され、これらは匿名化して解析される。スマートリングは、心拍数、体温、活動状態、睡眠状態をモニターする。更に、被験者は毎日、健康状態に関する質問票に回答する。調査期間は最大6か月で、収集されたデータはEvidation Healthのプラットフォームで解析される。この研究ではアルゴリズムの検知精度がカギで、このためには大量の高品質なデータの採取が必須となる。

Oura Ringとは

Oura Ringはフィンランドの新興企業Oura Healthが開発したスマートリングで健康管理のために使われている。Jack Dorsey(Twitter創業者)やMarc Benioff(Salesforce創業者)などシリコンバレーの著名人が使っていることで有名になった。また、プロスポーツではNBA(男子プロバスケットボールリーグ)がOura Ringを使って選手の健康状態を管理することを発表した。シーズンが再開し、選手は定期的に体温測定やPCR検査を受けるが、Oura Ringを併用することで体調の異常を早期に検知する。

出典: Oura Health

スマートウォッチでコロナを検知

コロナと共棲する社会では常に感染のリスクがあり、これをリアルタイムに検知し、アウトブレークを抑え込むことが求められる。感染をウェアラブルで検知できれば、コロナ社会での安全対策の効率が格段に向上する。このため、スマートウォッチを使ってコロナ感染を検知する研究も始まった。スタンフォード大学はApple WatchやFitbitなどを使い、心拍数などのデータをAIで解析し感染者を特定する研究を進めている。

オフィス再開と東京オリンピック

在宅勤務が終わり、これから社員がオフィスに戻るが、コロナ感染をどう検知するかが問われている。この切り札がウェアラブルで、社員の感染を症状が出る前にキャッチして、隔離措置を取る。更に、2021年は、コロナの中でオリンピックが開催されるが、選手を感染から守るためにも、感染をリアルタイムで検知するツールが求められる。コロナに感染すると、スマホやスマートウォッチに警告メッセージを表示することが可能となるのか、ウェアラブルとAIを組み合わせてコロナを検知する技法に期待が集まっている。

シリコンバレーで在宅勤務が定常化し、多くの社員はテレワークで仕事を進めている。企業は初めての経験である在宅勤務において、社員の仕事ぶりを把握することに苦慮している。このため、企業は在宅勤務評価ツールに着目し導入を始めた。特に、AIが管理職に代わり社員を評価する手法が注目されている。仕事の成果を公平に評価できると期待されるが、社員はAIに監視されることになる。

出典: Enaible

スタートアップが開発

このシステムを開発したのはEnaibleというスタートアップで、在宅勤務社員の生産性をAIで解析する。これは「AI-Powered Leadership」と呼ばれ、管理職向けのツールで、仕事の成果を人間に代わりAIが評価する(上の写真、左側)。また、社員の仕事ぶりに問題があれば、AIがこれを把握し、解決方法を提示する(上の写真、右側)。管理職はAIのアドバイスに沿って社員の生産性を上げる。

仕事の評価基準

AIは社員の仕事ぶりを解析し、その結果をスコアー「Productivity Scoring」で示す。スコアは三つの要素で構成され、社員は持てる能力を十分に発揮しているか(Capacity Utilization)、異なる仕事を満遍なくこなせるか(Consistence)、及び、他の社員にプラスに影響しているか(Quality Impact)が評価される(下の写真)。

出典: Enaible

問題点に対するアドバイス

AIは社員の生産性が低下していれば、仕事の進め方をアドバイスする。これは「Leadership Recommender」と呼ばれ、ワークフローの中のどのポイントで問題が発生しているかを掴み、仕事の効率を上げるためのアクションを示す。例えば、コールセンター業務で、AIは「Aさんは残業が多いが、これは朝の仕事で効率が上がっていないため」と分析する。管理職はAIの提言を受け、社員と会話して仕事の取り掛かりの効率を上げるように助言する。

AIの評価を活用する方法

管理職はAIが査定した社員の生産性スコアをみてチーム全体の仕事ぶりを把握する。生産性が高い社員にはそれに見合った報酬を出し、一方、生産性が下がった社員にはアドバイスをする。企業側としては生産性の高い社員を判別し雇用を続ける努力をするが、生産性が上がらない社員はレイオフの対象となる。生産性スコアが評価の基礎データとなり、個人の感情ではなく科学的な根拠で人事管理をすることができる。

導入事例

Enaibleによるとドバイ税関Dubai Customs Agencyとマーケティング企業Omnicom Media Groupがこのシステムを導入している。また、デルタ航空とヘルスケア企業CVS Healthがシステムの導入を検討している。Enaibleは2018年に創業した会社であるが、コロナの影響で在宅勤務が広がり、評価ツールへの需要が急増している。

AIに監視される社会に

在宅勤務で顔が見えない社員を如何に評価するかが課題になっているが、AIがその解として注目されている。一方、社員は自宅においてAIに常時監視されている状態となり、精神的なプレッシャーを感じる。また、個人の行動がAIにモニターされ、プライバシー保護の観点からも倫理的な問題がある。更に、機械学習の手法で社員の生産性を判定する際に、アルゴリズムのバイアスの問題も浮上する。社員の給与はAIの評価で決まり、企業はアルゴリズムが公平であることを説明する必要がある。

出典: ViewSonic

ツールなしで在宅勤務を運用できない

Enaibleはこれらの懸念に対して、ツールは社員を監視するものではなく、企業の人事管理ツールであると説明する。社員の行動をトラックするのではなく、成果だけを構成に評価するもので、在宅勤務体系を運用するには必須のツールとなる。いま、企業が再開し社員がオフィスに戻ってきているが、AI監視ツールはそのまま残るとの意見も聞かれる。オフィス勤務となってもAIが社員の仕事ぶりを評価することになり、人事制度そのものが大きく変わろうとしている。

【補足情報】

実装方法

Enaibleは社員が仕事の際に生成する大量のデータを解析して生産性を評価する。具体的には、社員が使っているツールのタイムスタンプをアルゴリズムが解析する。対象となるツールはメールの他に、Zoom、Slack、ブラウザーなど。Enaibleはクライアントのバックグランドで稼働し、社員がこれらのツールを使って仕事をした際に生成されるデータを解析する。

機械学習

Enaibleは収集したデータを機械学習アルゴリズム「Trigger-Task-Time」で解析する。これは各社員のワークフローを学習するメカニズムで、何がトリガーとなり、どのタスクを実行し、その作業時間を理解する。これでEnaibleは社員の仕事のスタイルを理解し、その社員の生産性スコア(Productivity Score)を算出する。

世界で新型コロナウイルスの感染が爆発的に広がっているが、その中心は欧州から米国に移ってきた。ニューヨーク州が危機的な状況にあるが、その次はカリフォルニア州といわれ、州知事はロックダウン(shelter-in-place)命令を発令した。会社や小売店やレストランは休止状態で、住民は自宅に留まることを求められ、街は静まり返っている。

出典: Linda Wang et al.

COVID-Net

新型コロナウイルスが広がる中、研究機関は病気(COVID-19)を検知するためのAIを公開した。これは「COVID-Net」と呼ばれ、患者のレントゲン写真から、新型コロナウイルスによる肺炎を検知する。病気検知のために多くのAIが開発されているが、これらはクローズドソースで一般の研究は使うことができない。これに対して、COVID-Netはオープンソースとして公開され、だれでも自由に利用できる。

データセットも公開

COVID-Netはカナダ・ウォータールー大学(University of Waterloo)とDarwinAIにより開発された。同時に、COVID-Netを教育するためのデータセット「COVIDx」も公開された。ここには13,645人の患者の16,756枚のレントゲン写真が格納されている。アルゴリズムとデータセットが公開され、これらをテンプレート(Reference Model)として研究が進み、COVID-19治療技術の確立に寄与することが期待されている。

病気の早期発見

いま、新型コロナウイルスにより病気を発症した患者を早期に特定する技術が求められているが、胸部のレントゲン写真がその手掛かりになる。COVID-19を発症した患者の肺のレントゲン写真にはこの病気に特有な形状が現れる。この特性をAIが学習しCOVID-19による肺炎を検知する。

ニューラルネットワーク構造

COVID-Net(下の写真)は胸部のレントゲン写真を読み込み(左端)、それを解析して判定を出力する(右端)。AIが下す判定は三種類で、１）感染していない(正常)、２）COVID-19肺炎、３）それ以外の肺炎となる。ネットワークのアーキテクチャは、人間がモデルの原型を決め、これをAIで最適化する手法が取られた。つまり、人間とAIがコラボしてCOVID-Netが生成された。最適化の条件として、精度は80%以上で、演算(multiply–accumulate operation、掛け算と保存の演算)の量は25億回以下とした。演算量を抑えるが、そこそこの精度がでる構成とした。

出典: Linda Wang et al.

判定精度

実際に、データセットを使ってCOVID-19の性能を検証すると、判定精度(Accuracy)は92.4%となった。具体的な検証結果は下記のグラフィックスの通りで、縦軸が基準値(Ground Truth)で横軸が検証精度(Precision)で、箱の中の数字は件数を示す。COVID-19患者10人について検証すると、COVID-Netは8人を正しく判定し、もう一人は通常の肺炎と、もう一人は感染なしと判定していることが分かる。COVID-Netは早期にCOVID-19感染者を見つけるために使われ、また、通常の肺炎とCOVID-19肺炎を見分けるためにも活用される。

出典: Linda Wang et al.

アルゴリズムの判定理由

この研究ではCOVID-Netは何を根拠に病気を特定したのか、その理由を説明する機能が導入された。これは「GSInquire」と呼ばれる技法で、ニューラルネットワークがオブジェクトを判定した根拠を表示する。このケースでは、COVID-Netがレントゲン写真で肺炎と判定した根拠となる部分をピンクのシェイドで示している(先頭の写真)。この部分にCOVID-19肺炎に特有なパターンがみられる。これにより、AIのブラックボックスが開かれ、医師は判定の理由を理解できる。また、COVID-Netは医師が認識していない肺炎のパターンを検知でき、新たな知見が生まれることが期待されている。また、COVID-Netのデバッグにも利用でき、アルゴリズムが誤検知する理由を把握する。

研究者のツール

COVID-Netの判定精度は92.4%とあまり高くはなく、まだ、医療ツールとして病院で使える品質とは言えない。一方、COVID-Netは研究者コミュニティにより改良が進み、精度や機能が向上し、医療ツールとして使えるよう進化する。今は研究のためのプロトタイプであるが、これをベースに新型コロナウイルスの治療技術が進むと期待される。

先週、サンフランシスコでセキュリティのカンファレンス「RSA Conference (#RSAC2020)」が開催された。今年のテーマは「Human Element」で、技術が人々にどう役立つかのを見直そうというもの(下の写真)。技術進化が著しいが、セキュリティの目的は人間を攻撃から守ることにある。会場にはAIをセキュリティに応用したツールが数多く展示され、アルゴリズムが攻撃を防御する方向が鮮明になってきた。

出典: VentureClef

ビジネスEメール詐欺が急増

いま、米国を中心にビジネスEメール詐欺(Business Email Compromise、BEC)が急増している。ビジネスEメール詐欺とは、業務用メールを使って相手を欺き、お金を盗み取る詐欺行為を指す。サイバースペースだけでなく、実社会でも行われている詐欺行為で、誰でも攻撃者になれることから米国を中心に被害件数が急増している。

FBIレポート

アメリカ連邦捜査局(FBI)はインターネット上の詐欺行為を分析し、その結果を報告書「Internet Crime Report」として公開している。このレポートによると、2019年度の米国での被害件数は46万件で、被害総額は35億ドルとなっている(下のテーブル)。この中でビジネスEメール詐欺(BEC/EAC)の被害額がトップで、その金額は18億ドルと全体の半分を占めている(下のテーブル、最上段)。

2019年のインターネット犯罪動向

FBIレポートによると、ビジネスEメール詐欺は2013年ころから始まり、犯罪者は企業のCEOになりすまし、偽のEメールでお金を送金させる手口を取った(「CEO Fraud」と呼ばれる)。その後、詐欺の手口は広がり、社員や取引先になりすまし、偽のメールで送金を求めたり、ギフトカードを買わせる攻撃が広がった。2019年の特徴は給与振り込み詐欺で、社員になりすまし偽のメールで経理部から給与を指定口座に振り込ませる詐欺が広がった(「Payroll Fraud」と呼ばれる)。

出典: Federal Bureau of Investigation

給与振り込み詐欺の実例

ビジネスEメール詐欺では、まず、攻撃者がフィッシングなどの手法で社員の認証情報(IDとパスワード)を奪う。次に、攻撃者は社員になりすまし、偽のメールを社内や社外のターゲットに送り、犯罪者の口座にお金を送金させる。

出典: Symantec

給与振り込み詐欺のケースでは、会社の社員になりすまし、経理担当者に偽のメールを送り、指定口座に給与を振り込ませる(上の写真)。会社の社員になりすました攻撃者が、偽のメールを経理部門に送り、「給与振り込み先について、銀行口座を変更したので情報をアップデートしてほしい」と依頼。これにより、次回の給与は攻撃者が指定する銀行口座に振り込まれる。

Armorbloxというベンチャー企業

ビジネスEメール詐欺をAIで検知するソリューションの開発が進んでいる。その先頭を走るのはArmorbloxというベンチャー企業で、シリコンバレーに拠点を置きAIや自然言語解析をベースにしたEメールセキュリティ技術を開発している。業務用メールの内容をAIで解析して問題点を検知する手法を取り、Microsoft Office 365やGoogle G Suitなどをサポートしている。

AIがメールの内容を理解

ArmorbloxはAIがメールの内容を解析し、そこから攻撃の手口を検知する手法に特徴がある。AIが不正を検知すると警告メッセージを表示して注意を促す(下の写真)。具体的には、AIは「(メール発信者である)Jack Dorseyはこのアドレスからメールを発信しない」と警告。また、AIがメール本文を読み、そこには「カードを紛失したので別のカード情報を今晩までに送ってほしい」と書かれていることを理解し、AIは「今晩までという急な要請は不正の手口」と解析し、これは詐欺メールであると判定する。

出典: Armorblox

システム構成

Armorbloxは機械学習(Machine Learning)や深層学習(Deep Learning)の技法を使ってEメールを解析する。特に、自然言語解析(Natural Language Understanding)に特徴があり、メールに書かれていることを理解して、詐欺や問題点を検知する。この手法でビジネスEメール詐欺を検知するが、それ以外にも、機密情報の流出を検知する機能 (Data Loss Prevention)も備えている。

AIを教育するプロセス

Armorbloxのブース(下の写真、左側)でAIを教育する手法について説明を受けた。AIは基本教育ができており、企業はそれをそのまま使うことができる。一方、AIの検知精度を上げるため、企業は保有しているEメールのログを使ってAIを再教育する。これにより、AIは利用者の特性(名前や職務、上司関係、メールを書くスタイル)を理解し、アルゴリズムは検知精度を上げる。また、利用者がArmorbloxの判定結果を見て、それにコメントすることもできる。AIはこれらのフィードバックを学習し、更に判定精度を上げる。

出典: VentureClef

Armorbloxの特徴

市場にはビジネスEメール詐欺を検知するソフトウェアは数多く登場している。これらは、ルールベースでシステム管理者がマニュアルで特定の単語や規則を指定する。しかし、これらシステムの判定精度は高くなく、誤検知(False Positive)が多く、管理者が手作業でここから詐欺メールを選び出す作業が必要となる。これに対して、ArmorbloxはAIや自然言語解析が人間に代わりこのプロセスを実行する。

新型コロナウイルス

サンフランシスコ市は新型コロナウイルスの蔓延で非常事態宣言を発令した。展示会やイベントの中止が相次ぐ中、RSA Conferenceは予定通り開催された。会場やブースにはアルコール消毒液が置かれ (上の写真、右側)、厳戒体制での開催となった。米疾病予防管理センターは感染予防策としてSocial Distance(相手と1メートル以上離れる)とElbow Bump(握手の代わりに肘タッチ)を推奨するが、会場ではこれを励行する様子はなかった。こまめに手洗いしながらの面談となり危険を感じながらのカンファレンスとなった。