AIは社会生活に多大な恩恵をもたらすが、その中身はブラックボックスで処理のプロセスが見えない。このためAIを安心して利用することができず、普及の足かせになっている。今年は説明責任を果たせるAIの研究が進む年となる。MITの研究チームはGenerative Adversarial Network (GAN)のアルゴリズムを解明し、AIの思考プロセスを明らかにした。

フェイクのセレブ

GANは写真撮影したように架空のオブジェクトをリアルに描き出すことで注目を受けている。例えば、セレブの写真をGANに入力しネットワークを教育すると、アルゴリズムは仮想のセレブを描き出す(上の写真)。どこかで見かけた顔のように思えるがこれらは実在の人物ではない。GANがセレブというコンセプトを学び想像で描いたもので、これらのイメージを検索しても該当する人物はでてこない。リアルとフェイクを見分けることができずGANに対して気味悪さを感じるが、AI研究の主要テーマとなっている。

AIアートが高値で売れる

GANが芸術作品を生み出し、それが高値で落札されたことで、一躍その手法に関心が集まった。フランスのAI芸術家集団「Obvious」はGANで絵画を生成する手法で芸術の普及に貢献している。その代表作「Edmond De Belamy」がChristie’sのオークションで$435,000で落札された(下の写真)。AIが生成した絵画に高値が付き市場を驚かせた。作品はある家族(Belamy Family)を描いたもので11点が制作され、その一点がこのEdmond De Belamy である。

AIアートの著作権

AIが描いた絵画にどれだけの芸術的価値があるかが議論になっているが、同時に、AIが制作した作品の著作権は誰に帰属するかも問題となっている。このAIアートを制作したのはObvious社で、GANに古典的な肖像画15,000点を読み込ませアルゴリズムを教育した。GANは肖像画というコンセプトを学びアルゴリズムは新しい作品を創作した。

アルゴリズム開発者か利用者か

Obvious社が使用したGANはRobbie Barratという人物が開発し、オープンソースとしてGitHubに登録されている。誰でも自由にこのGANを使うことができるが、Obvious社はGAN開発者には触れず、ルール違反が指摘されている。そもそも、生成された絵画の著作権はアルゴリズム開発者にあるのか、それともアルゴリズム利用者にあるのか、議論となっている。

MIT-IBM Watson AI Lab

GANに関する多くの問題が未解決であるが、時代を変える技術として注目されている。また、GANのアルゴリズムはブラックボックスで、作画の仕組みを解明する動きが広がっている。MITの研究グループ「MIT-IBM Watson AI Lab」はGANのアルゴリズムの解明を進め、GANの思考メカニズムを明らかにした。GANはどのように学習し、どのように判断するかが特定でき、この研究がAIのブラックボックスを解明する大きな第一歩となった。

研究成果

研究成果は「GAN Dissection: Visualizing and Understanding Generative Adversarial Networks」として発表された。この研究でGANがオブジェクトを把握するメカニズムを解析し、それを可視化して示した。具体的には、ニューラルネットワークの中で、どのレイヤーのどのニューロン(ユニットと呼ぶ)が特定のオブジェクト(木や雲など)の生成に関係しているかを突き止めた。

ユニットの機能をオン・オフ

更に、特定したユニットの機能をオン・オフさせ、その効果を検証した。特定のユニットの機能を停止させることで、オブジェクトを取り去ることができることを示した。反対に、そのユニットの機能を強化することで、オブジェクトを追加できることも示した。(下の写真がその事例、左端がオリジナルのイメージで、木に関連するユニットの機能をオフ・オンすることで、木を削除(中央)したり、追加(右端)できる。)

アルゴリズムは常識を学ぶ

特定されたユニットはオブジェクトを生成するだけでなく、オブジェクトに関する常識も学んでいる。例えば、ドアを追加する際には、建物のスタイルにマッチしたドアを生成する。更に、ドアを建物以外のオブジェクト(例えば空)に追加しようとしても、アルゴリズムはこれを拒否する(下の写真)。アルゴリズムは教育の過程で人間のように常識を得ることが示された。

応用事例

この技法を使うとイメージを容易に変更することができる。ユニットと家具や人物の関係を把握することで、イメージの品質を向上することができる。例えば、GANが生成した寝室(下の写真、左側上段)から家具や小物を削除することで綺麗なイメージ(下の写真、左側下段)が出来上がる。また、GANが生成した会議室(下の写真、右側上段)から人物や窓を取り除き新しいイメージの会議室(下の写真、右側下段)を生成できる。これらはピクセルを変換するのではなく、ニューラルネットワークの特定ユニットを操作することでイメージを変換する。

Explainable AIの研究が進展

このようにニューラルネットワークのユニットを操作することで、アルゴリズムがイメージを生成する仕組みの解明につながる。ニューラルネットワークは学習を積むことで、特定のオブジェクトを描くユニットを構成することが分かった。ドアを描くニューロンのグループを形成し、このユニットはドアの意味も理解し、背景にマッチしたドアを描く。高値で売れるAIアートを生成するアリゴリズムの開発に結び付くのか、ブラックボックスに光があたり、Explainable AIの研究が進み始めた。

AIで融資を審査する手法は銀行業務を自動化する切り札として注目されている。しかし、金融機関はAI融資審査の導入をためらっている。これはアルゴリズムがブラックボックスで、審査したロジックが明らかでなく、銀行は消費者に判定理由を説明でいないため。いま融資審査の内容を説明できるAIが登場し注目を集めている。

説明できるAI融資審査

ZestFinanceはロサンジェルスに拠点を置くベンチャー企業で、融資サービスのAIプラットフォームを開発している(上の写真)。この製品は「Zest Automated Machine Learning (ZAML)」と呼ばれ、融資申込者のリスクを機械学習の手法で査定する。ZAMLの特長はアルゴリズムが導いた結果を説明できること。これは一般に「Explainable AI（説明できるAI）」と呼ばれ、政府法令に準拠してAIが融資審査を実行する。

融資審査と説明責任

機械学習モデルを使うと融資判定を高精度に実施できるが、この手法はAIが抱える根本的な問題を抱えている。これはAIがブラックボックスであることで、機械学習モデルは審査結果を説明できない。融資審査では応募者がローンを受けることができなかった場合、その理由の説明が求められる。また、金融機関はアルゴリズムが法令に準拠していることを立証する責任がある。これらの要件を満たすことができないため、金融機関はAI融資審査の導入を敬遠している。

融資審査で問題発生

実際に、機械学習による融資審査で問題が発生している。アルゴリズムは人種や性別にバイアスしている事例が数多く報告されている。アルゴリズムは黒人など特定人種に対し評価が厳しいケースが多く、AIの公正さが問われている。金融機関が意図的に特定人種を締め出すことを意図しているのではなく、アルゴリズムの判定方式が不透明なため起きているケースが多い。

Explainable AIの機能

これに対してZAMLは融資審査結果のプロセスを説明することができる。ただし、ZestFinanceはその詳細を公表していないが、Explainable AIを使うと、モデルが特定の判断を下したとき、そのイベントが起こる確率を計算するとともに、その判定と入力データの関係を示す。例えば、融資審査で不合格となった場合(イベントの発生確率が低い)、申込者の入力データ(信用履歴など)を出力する。

潜在需要を掘り起こす

更に、ZAMLは機械学習の手法でクレジットスコアーは低いが返済能力のある応募者を見つけ出す。ZAMLは応募者を数百から数千の変数で定義しクレジットリスクを査定する。従来手法では融資を受けることができなかったグループを解析しリスクを再評価する。(下のグラフィック、現行方式の査定でリスクが高いと判定された応募者をZAMLで再評価するとリスクが低い応募者が数多くいるのが分かる。これらのグループが新規顧客となる。)

現行の融資審査方法

ちなみに、現行の融資審査はFICOスコアーに従って応募者を１０ほどのグループに区分して可否を決める。FICOスコアーとは個人の信用度を示す指標で、支払い履歴、負債の状況、負債の種類などを入力して算定する。このためクレジット履歴のない応募者は融資を受けることができない。例えば、米国に移民したばかりの医師は、返済能力はあるが融資を受けることができない。

ZAMLシステム構成

ZAMLは融資審査のためのプラットフォームで、金融機関はこの上で機械学習モデルを生成し、自社で所有している顧客データを使ってモデルを最適化する。また、外部の信用調査会社のデータを使ってモデルを強化する。ZestFinanceはプラットフォームを提供するだけでなく、システムインテグレータとしてシステム開発を支援する。完成したモデルは性能を検証し、業務システムに組み込む。ZAMLはオンプレミスまたはクラウド上に展開され、金融機関が運用しているシステムと連携して稼働する。

Microsoftとの提携

ZestFinanceは2018年12月、Microsoftと共同で融資審査向けにZAMLを提供することを発表した。この提携によりMicrosoftの機械学習クラウド「Azure and Machine Learning Server」(下の写真)でZAMLを利用できる。金融機関はクラウドで機械学習モデルを容易に開発でき、法令に準拠したAI融資審査システムを運用できる。

AI融資審査の導入に弾みがつく

金融機関はAIによる融資審査を導入したいが、アルゴリズムがブラックボックスで、これを躊躇している。米国では4000万人がクレジット履歴が無くローンを受けることができない。ZAMLを使うと多くの消費者を救済でき、金融機関としても法令に準拠してAI融資事業を拡大できる。Explainable AIをMicrosoft Azureで使えるようになり、AI融資審査の導入に弾みがつくと期待されている。