AIの実力が高く評価されDeep Learningを応用したシステムが社会に広がっている。同時に、AIの問題点が顕著になってきた。AIは統計学の手法で入力されたデータから特徴量を高精度で検出する。メディカルイメージからガンの兆候を医師より正確に検知する。しかし、AIはなぜ癌細胞と判断したのか、その理由を語らない。

自動運転車は人間より遥かに安全に走行するが、その運転テクニックは開発者ではなくAIだけが知っている。我々はAIを信用できるのかという大きな課題に直面している。AIに生命を託すことができるのかの議論が起こっている。疑問に対する答えはAIの内部にある。AIのブラックボックスを開けて、そのロジックを解明しようとする研究が始まった。

顔の特徴で犯罪者を特定

AIが抱える本質的な課題が様々な形で露呈している。中国のAI研究者は顔の特徴で犯罪者を特定する技法を発表した。これはShanghai Jiao Tong University (上海交通大学) で研究されたもので、「Automated Inference on Criminality using Face Images」として公開された。この論文によるとアルゴリズムは89%の精度で犯罪者を特定できる。つまり、顔写真をこのアルゴリズムに入力すると、この人物は犯罪者かどうかが分かる。

犯罪者には三つの特徴がある

この研究ではDeep Learningなど顔を認識するAI技術が使われた。アルゴリズムを教育するために、男性の顔写真1856人分が使われ、そのうち730人は犯罪者である。また、この論文は犯罪者の顔の特性についても言及している (上の写真)。犯罪者には三つの特徴があり、一つは上唇のカーブが普通の人に比べ急なこと (上の写真右側、ρの分部)。また、両目の間隔が狭く、鼻と口元でつくられる角度が狭いことをあげている (上の写真右側、dとθの分部)。但し、この論文は公開されたばかりでピアレビュー (専門家による評価) は終わっていない。

背後にロジックがない

いまこの論文が議論を呼んでいる。人物の挙動から犯罪者を特定する手法は監視カメラなどで使われている。しかし、顔の特性から犯罪者を特定するAIは信頼できるのかという疑問が寄せられている。AIは学習データをもとに統計処理するが、顔の形状と犯罪者を結び付けるロジックはない。仮にこのAIが犯罪捜査で使われると、一般市民は理由が分からないまま容疑者とされる恐れもある。Deep Learningが社会問題となる火種が随所で生まれている。

GoogleのAIが女性を差別

世界の最先端のAI技術を持つGoogleだが、AIに起因する問題点を指摘されている。YouTubeは聴覚障害者のためにキャプションを表示する機能がある (下の写真)。キャプションは発言を文字に置き換えるたもので、Googleの音声認識技術が使われる。その際に、男性が話す言葉と女性が話す言葉でキャプションの精度は異なるのか、調査が実施された。(National Science Foundation (アメリカ国立科学財団) のRachael Tatmanによる研究。)

YouTubeは女性の声を正しく認識しない

その結果、YouTubeは男性の声を女性の声より正しく認識することが判明した。具体的には、音声認識精度は男性の声だと60%で、女性だと47%に下がる。つまり、女性は音声認識精度において差別を受けていることが分かった。この差がなぜ生まれるかについては、システムを詳しく検証する必要がある。しかし、Tatmanは教育データセットが男性にバイアスしているのではと推測する。音声サンプルは均等ではなく男性に偏っていることを意味する。AIの性能は教育データの品質に敏感に左右される。AIによる女性差別や人種差別が顕在化しているが、学習データが公正であることが問われている。

AIが乳がんを判定する

AIの中心技法であるDeep Learningは乳がん検査の判定で成果を上げている。検体のイメージをDeep Learningのネットワークに入力すると、AIはがんを発症する組織を高精度に検出する。今ではAIの検知精度が人間を上回り、多くの病院でこのシステムの採用が始まった。同時に、健康に見える組織がAIによりがん発症の可能性が高いと判定されたとき、医師と被験者はどう対応すべきかが議論になっている。AIの判定を信頼し、手術を行うかどうかの判断を迫られる。

AIはその理由を説明できない

遺伝子検査でも同様な問題が議論されている。乳がん発症を促進する遺伝子変異「BRCA」が検出されたとき、手術に踏み切るかどうかが問題となる。女優Angelina Jolieは「BRCA1」キャリアで手術を受けたことを公表した。しかし、AI検診のケースはこれとは異なる。AIは統計的手法で乳がんと判断するが、その組織が何故がんを発症するのかは説明できない。AIは時に人工無能と揶揄されるが、科学的根拠のない判定をどう解釈すべきか医学的な検証が始まっている。

銀行は与信審査でAIを使う

銀行やフィンテックベンチャーはローン審査でDeep Learningを使い始めた。ローン応募者のデータをアルゴリズムに入力すると瞬時にリスクを査定できる。高精度に短時間でローン審査ができることから、この手法が注目を集めている。一方、米国では州政府の多くは銀行にローン申し込みで不合格になった人にその理由を説明をすることを義務付けている。

応募者に十分な説明ができない

しかし、Deep Learningはブラックボックスで、銀行は応募者に十分な説明ができない。更に、ローン審査の基準を変えるときは、学習データを使ってアルゴリズムを再教育することとなる。ソフトウェアのロジックを変更するようにはいかず、大量のデータを読み込んでDeep Learningのパラメータを再設定する。金融業界でAIを導入することの是非が議論されている。

AIは眼鏡で騙される

Carnegie Mellon UniversityのMahmood Sharifらは、眼鏡で顔認証システムが誤作動することを突き止めた。これは「Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」として公開された。フレームの幅が少し広い眼鏡 (上の写真(a)の列) をかけると、システムはこれらの写真を顔として認識できない。つまり、街中に設置されている防犯カメラの監視システムをかいくぐることができる。

眼鏡で別人に成りすます

また、フレームのプリントパターンを変えると、顔認識システムは別の人物と間違って認識する。上の写真(b)から(d)の列がその事例で、上段の人物が眼鏡をかけることで、顔認識システムは下段の人物と誤認識する。(b)のケースでは、上段の男性が眼鏡をかけるとシステムは米国の女優Milla Jovovichと誤認した。顔認識システムはDeep Learningの手法で顔の特徴を把握するが、この事例から、目元のイメージが判定で使われていると推定できる。しかし、AIが実際にどういうロジックで顔認証をしているかは謎のままである。これが解明されない限り、顔認証システムを不正にすり抜ける犯罪を防ぐことはできない。

ニューラルネットワークと脳の類似性

AIの基礎をなすNeural Network (下の写真) でイメージを判定する時は、写真とそのタグ (名前などの種別) をネットワークに入力し、出力が正しく種別を判定できるよう教育する。教育過程ではネットワーク各層 (下の写真、縦方向の円の並び) 間の接続強度 (Weight) を調整する。この教育過程は脳が学習するとき、ニューロンの接続強度を調整する動きに似ているといわれる。

ネットワークの中に分散して情報を格納

学習で得た接続強度は各ニューロン (上の写真の白丸の分部) に格納される。つまり、Neural Networkが学習するメカニズムの特徴はネットワークの中に分散して学習データを格納することにある。プログラムのようにデータを一か所に纏めて格納する訳ではない。人間の脳も同じメカニズムである。脳が電話番号を覚えるときには、最初の番号は多数のシナプスの中に散在して格納される。二番目の番号も同様に散在して格納されるが、一番目の番号と近い位置に格納されるといわれる。人間の脳を模したNeural Networkはデータ格納でも同じ方式となる。

知識がネットワークに焼き付いている

問題はこの格納メカニズムが解明されていないことにある。脳の構造を模したNeural Networkも同様に、情報が格納されるメカニズムの解明が進んでいない。Deep Learningの問題点を凝縮すると、知識がネットワークに焼き付いていることに起因する。ニューロンの数は数千万個に及び、ここに知識が散在して格納されている。知識はシステムを開発した人間ではなく、ネットワークが習得することが問題の本質となる。

自動運転車のアルゴリズム

Carnegie Mellon Universityは1990年代から自動運転技術の基礎研究を進めていた (下の写真はその当時の自動運転車)。当時、研究員であったDean Pomerleauは、カメラで捉えた映像で自動運転アルゴリズムを教育した。走行試験では、数分間アルゴリズムを教育し、その後でクルマを自動走行させる試験を繰り返した。試験はうまく進んだが、橋に近づいたときクルマは道路からそれる動きをした。しかし、アルゴリズムはブラックボックスでPomerleauはその原因が分からなかった。

試験を繰り返し問題点を特定

ソフトウェアをデバッグする要領でロジックを修正することができない。このためPomerleauは路上試験を繰り返すことで問題点を解明した。様々な状況で自動運転を繰り返し、経験的に問題点を突き止めた。それによると、クルマは路肩の外側に生えている草の部分を基準にして走行路を判定していることが分かった。橋に近づくと草の部分がなくなり、クルマは判断基準を失い、正常に走行できなくなる。自動運転技術をAIで実装するとクルマが正しく動くのか確信が持てなくなる。

大規模な走行試験で安全性確認

現在でも同じ問題を抱えている。自動運転車は無人で公道を走ることになるが、我々はAI技術を信用していいのかが問われている。AIの運転ロジックが分からない中、どう安全基準を作ればいいのか試行錯誤が続いている。その一つに、定められた距離を無事故で走行できれば安全とみなすという考え方がある。シンクタンクRand Corpによると、人間がクルマを1億マイル運転すると死亡事故は1.09回発生する。自動運転車が人間と同じくらい安全であることを証明するためには2.75億マイルを無事故で走る必要がある。人間レベルの安全性を証明するためには大規模な走行試験が必要となる。自動運転車の安全基準を設定する作業は難航している。

Deep Learningを使った運転技術

この問題を技術的に解明しようとする動きも始まった。NvidiaはDeep Learningを使った運転技術を開発している。自動運転システムは「DAVE-2」と呼ばれ、Neural Networkで構成される。人間がアルゴリズムに走行ルールを教えるのではなく、システムはNeural Networkで画像を処理し安全な経路を把握する。システムはカーブしている道路のイメージを読むと、そこから運転に必要な道路の特徴を把握する。

AIがルールを学習する

NvidiaはAIがどういう基準で意思決定しているのかの研究を進めている。今までブラックボックスであったAIの中身を解明する試みだ。下の写真が研究成果の一端で、AIが道路をどう理解しているかを示している。上段はカメラが捉えた画像で、下段はCNN (画像認識するNeural Network) がこれを読み込み、そこから道路の特徴を示している。特徴量は曲線が殆どで、CNNは道路の境界部分を目安に運転していることが分かる。この画面からAIが習得したドライブテクニックを人間がビジュアルに理解できる。

2017年はAIロジックの解明が進む年

自動運転車を含む自立系システムはDeep Reinforcement Learning (深層強化学習) という手法を使い、アルゴリズムが試行錯誤を繰り返してポリシーを学習する。この技法は囲碁チャンピオンを破ったGoogle AlphaGoでも使われている。Deep Reinforcement Learningの中身もブラックボックスで、これからこの解明も進むことになる。AIは目覚ましい成果を上げ世界を変え続けるが、2017年はAIのブラックボックスを開けそのロジックの解明が進む年となる。

Trump氏の勝利は行き過ぎた格差社会に不満を抱えている労働者層からの支持によるところが大きい。Trump新大統領は格差を是正することを掲げ、米国に雇用を呼び戻し賃金を上げると約束した (下の写真)。選挙結果を受けシリコンバレーではUniversal Basic Income (最低所得保障) の議論がクローズアップされている。低所得者層に現金を支給し、行き過ぎた格差を是正する試みが始まった。

Universal Basic Incomeとは

AIやロボティックの進化で多くの人が職を失うことが懸念される。失業者対策の一つとしてUniversal Basic Income (以降ベーシックインカムと記載) が議論されてきた。ベーシックインカムとは社会保障の一種で、市民は定期的に一定額の給付金を政府や公共機関から受ける制度を指す。市民は受け取るお金で最低限の生活を送ることができる。

ベーシックインカムの争点を纏めると

ベーシックインカムの基本コンセプトは貧困層だけでなく国民全員に補助金を支給することにある。これを導入することで、福利厚生施策を廃止してベーシックインカムに一本化する。住宅補助、食糧支援、高齢者医療などの施策の代わりに、ベーシックインカムを運用する。これにより政府組織がシンプルになり、福利厚生政策の運用コストが下がるという利点がある。

一方、ベーシックインカム導入には大規模な財源が必要でこれが最大の障壁となる。更に、国民に生活費を支給すると勤労意欲が失われるという懸念が根強くある。ただ近年は、AIに起因する失業対策としてベーシックインカムの必要性が注目を集めている。Trump新大統領の誕生で社会格差の深刻さが認識され、ベーシックインカムの議論が一気に活発になった。

AI研究者がベーシックインカムの必要性を訴える

AI研究を牽引する著名人がベーシックインカムの必要性を訴えている。Baidu研究所所長Andrew Ngは大統領選挙の翌日、ベーシックインカムの必要性をブログに投稿した (下の写真)。Ngは「選挙結果は不公平感による不満を反映している」と述べ、「住民の底辺を支えるためにベーシックインカムが必要」と主張。併せて「すべての人が(社会の階段を)上るために教育も必要」と述べている。大統領選挙で露呈した格差問題を解決する施策の一つとしてベーシックインカムに注目している。

既に実証実験が進んでいる

高度なAI技術を生み出すシリコンバレーで、既にベーシックインカムの実証実験が進んでいる。著名インキュベータY Combinator社長Sam Altmanは2016年5月、ベーシックインカムの試験運用を始めると発表した (下の写真)。San Francisco対岸のOaklandでトライアルが始まった。この地区で100家族を選び、毎月1000ドルから2000ドル程度の現金を支給する。期間は6か月から1年の間で、受給者は受け取ったお金を自由に使うことができる。

Oaklandは経済格差が顕著な場所

Oaklandは富裕者層と貧困層の間で経済格差が顕著な都市である。同時に、Oaklandはハイテク企業の流入で地域住民との関係が悪化している。これはGentrification (都市部の高級化) と呼ばれ、裕福なハイテク企業社員が街に入り物価や住居費が高騰し、住民が郊外に転出せざるを得ない問題が発生している。Y Combinatorはこれら住民にベーシックインカムを提供することで問題を緩和できるのか検証を進めている。この実証実験が上手くいけば、本格的なプログラムに移行するとしている。

なぜ民間企業が社会保障施策を手掛けるのか

ベーシックインカムの実証実験はカナダやフィンランドなどで実施され、Oaklandのプロジェクトが初めてというわけではない。しかし、ベーシックインカムという社会保障政策を民間企業が手掛けている点に特徴がある。なぜ民間企業が担うのかという疑問に対しては、Y Combinatorは明確な回答は示していない。ベーシックインカムは現在施行されている失業保険などのセーフティネットの代わりとなると述べるにとどまっている。

AI開発企業の新しい責務となるのか

技術進化により職が失われていくと、多くの人が収入を失い生活に行き詰る。その原因を生み出した企業は社会的な責務を果たすべきという見方が生まれてきた。その一つの手段としてベーシックインカムに注目が集まっている。今までもITによる自動化で多くの職がコンピュータに置き換えられた。しかしAIによる自動化は今までと比べ物にならないほど社会に与える影響が大きい。Y Combinatorの実証実験は、AIやロボットや自動運転車を開発する企業は社会貢献のあり方を見直すべきとのメッセージを含んでいる。

Elon Muskはベーシックインカムの必要性を認める

シリコンバレーの著名人はベーシックインカムに関し、将来を見据えた考え方を示している。Tesla創業者Elon MuskはCNBC放送のインタビューで、ベーシックインカムは必要になるとの見解を示した (下の写真)。Teslaは完全自動運転車の開発を目指している。また、Tesla製造工場はロボットによる自動化が進んでいる。これにより職業ドライバーや工場労働者は自動運転車やロボットに置き換えられ職を失う可能性が高くなる。

社会格差が進むと平和な社会が脅かされる

この流れは自動車産業だけでなく他の産業でも起こり、自動化による失業が世界規模で発生する。人員削減で企業は高い利益を生み出すことができるが、利益を再分配するメカニズムが無ければ、収入の格差が今以上に増大する。ひいては、社会や経済が不安定になり、平和な世界が脅かされる危険性を含む。Muskは自社で技術開発を進めるだけでなく、会社としての社会的責任を負う必要があるとを認めている。

仕事をしないと人は存在価値を見失う

ベーシックインカムを導入すると最低限の生活が保障され安定した生活ができる。人々は働かなくても一定の生活が約束される。しかし、働かなくても生活ができれば、人はその存在意義を問われることになる。人は生活を支えるためには嫌な仕事でもこなすが、同時に、仕事を通して自分の価値を証明し、存在意義を確認している。仕事をしなくても生活できれば、自分の価値を見失うという問題が生じる。

人間のクリエイティビティを解き放つ

その一方、いやな仕事から解放されると人間は創造性を発揮するという考え方もある。ベーシックインカムで最低限の生活ができると、人々は興味を持っていることを自由に探究できる。絵を描くのが好きな人は時間に拘束されないで、この道を探求できる。プログラミングが好きな人は自由にハッキングできる。ベーシックインカムが導入されていない現在でも、創造性は個人の自由な活動から生まれることが見受けられる。人間のように振る舞う高度な自動運転アルゴリズム (Comma.ai) は天才青年 (George Hotz) の趣味が高じて生まれた。

近未来のすがた：ロボットが生産し人が消費する社会へ

Singularity (AIが人類を凌駕するポイント) の到来を主張するRay Kurzweil (現在はGoogle研究員) も同様な考え方を示しているが、AI大量失業時代の次はAIが人類を養う時代が来ると予測する。AIやロボットによる自動技術の進化で、全人類の生活を支えるだけの生産ができ、人は働く必要はなくなる。そうなると人々は働かなくなるのではなく、「仕事」を続けると主張。「仕事」とは誰かに命じられてこなすタスクではなく、自分が取り組みたいことを指す。つまり、生きがいを感じない労働から解放されることを意味する。

人類の創造性の爆発が起こる

いつの時代も人間は働くことに喜びを感じる。そして地球規模で人々が「仕事」をすると、人類の創造性の爆発が起こるとも予言する。高度AI社会では地球規模で創造性が開花し、新しい文明が生まれる。このバラ色の予測に対し反対意見も少なくないが、ベーシックインカムは常にAIの進化と対で議論される。

国民的な議論が広がる兆し

翻ってTrump新大統領とともに上院と下院で勝利した共和党はベーシックインカムの考え方と親和性が高い。Obama政権が運営してきた社会保障制度に一貫して反対の意思を示し、共和党は小さな政府に引き戻すと繰り返し主張している。 (下のグラフは食糧支援を受けている人の数の推移でObama政権で急増していると主張。社会保障制度が肥大化していることを意味する。) Trump新政権の四年間はAIやロボティックス技術が劇的に向上し、大量失業時代に突入することが懸念される。実証実験を含む検証作業などを通し、ベーシックインカムの国民的な議論が広がる兆しを感じる。