AI融資審査はブラックボックスで安全に使えない、いま判定結果を説明できるExplainable AIが登場

AIで融資を審査する手法は銀行業務を自動化する切り札として注目されている。しかし、金融機関はAI融資審査の導入をためらっている。これはアルゴリズムがブラックボックスで、審査したロジックが明らかでなく、銀行は消費者に判定理由を説明でいないため。いま融資審査の内容を説明できるAIが登場し注目を集めている。

出典: Google

説明できるAI融資審査

ZestFinanceはロサンジェルスに拠点を置くベンチャー企業で、融資サービスのAIプラットフォームを開発している(上の写真)。この製品は「Zest Automated Machine Learning (ZAML)」と呼ばれ、融資申込者のリスクを機械学習の手法で査定する。ZAMLの特長はアルゴリズムが導いた結果を説明できること。これは一般に「Explainable AI(説明できるAI)」と呼ばれ、政府法令に準拠してAIが融資審査を実行する。

融資審査と説明責任

機械学習モデルを使うと融資判定を高精度に実施できるが、この手法はAIが抱える根本的な問題を抱えている。これはAIがブラックボックスであることで、機械学習モデルは審査結果を説明できない。融資審査では応募者がローンを受けることができなかった場合、その理由の説明が求められる。また、金融機関はアルゴリズムが法令に準拠していることを立証する責任がある。これらの要件を満たすことができないため、金融機関はAI融資審査の導入を敬遠している。

融資審査で問題発生

実際に、機械学習による融資審査で問題が発生している。アルゴリズムは人種や性別にバイアスしている事例が数多く報告されている。アルゴリズムは黒人など特定人種に対し評価が厳しいケースが多く、AIの公正さが問われている。金融機関が意図的に特定人種を締め出すことを意図しているのではなく、アルゴリズムの判定方式が不透明なため起きているケースが多い。

Explainable AIの機能

これに対してZAMLは融資審査結果のプロセスを説明することができる。ただし、ZestFinanceはその詳細を公表していないが、Explainable AIを使うと、モデルが特定の判断を下したとき、そのイベントが起こる確率を計算するとともに、その判定と入力データの関係を示す。例えば、融資審査で不合格となった場合(イベントの発生確率が低い)、申込者の入力データ(信用履歴など)を出力する。

潜在需要を掘り起こす

更に、ZAMLは機械学習の手法でクレジットスコアーは低いが返済能力のある応募者を見つけ出す。ZAMLは応募者を数百から数千の変数で定義しクレジットリスクを査定する。従来手法では融資を受けることができなかったグループを解析しリスクを再評価する。(下のグラフィック、現行方式の査定でリスクが高いと判定された応募者をZAMLで再評価するとリスクが低い応募者が数多くいるのが分かる。これらのグループが新規顧客となる。)

出典: ZestFinance  

現行の融資審査方法

ちなみに、現行の融資審査はFICOスコアーに従って応募者を10ほどのグループに区分して可否を決める。FICOスコアーとは個人の信用度を示す指標で、支払い履歴、負債の状況、負債の種類などを入力して算定する。このためクレジット履歴のない応募者は融資を受けることができない。例えば、米国に移民したばかりの医師は、返済能力はあるが融資を受けることができない。

ZAMLシステム構成

ZAMLは融資審査のためのプラットフォームで、金融機関はこの上で機械学習モデルを生成し、自社で所有している顧客データを使ってモデルを最適化する。また、外部の信用調査会社のデータを使ってモデルを強化する。ZestFinanceはプラットフォームを提供するだけでなく、システムインテグレータとしてシステム開発を支援する。完成したモデルは性能を検証し、業務システムに組み込む。ZAMLはオンプレミスまたはクラウド上に展開され、金融機関が運用しているシステムと連携して稼働する。

Microsoftとの提携

ZestFinanceは2018年12月、Microsoftと共同で融資審査向けにZAMLを提供することを発表した。この提携によりMicrosoftの機械学習クラウド「Azure and Machine Learning Server」(下の写真)でZAMLを利用できる。金融機関はクラウドで機械学習モデルを容易に開発でき、法令に準拠したAI融資審査システムを運用できる。

出典: Microsoft  

AI融資審査の導入に弾みがつく

金融機関はAIによる融資審査を導入したいが、アルゴリズムがブラックボックスで、これを躊躇している。米国では4000万人がクレジット履歴が無くローンを受けることができない。ZAMLを使うと多くの消費者を救済でき、金融機関としても法令に準拠してAI融資事業を拡大できる。Explainable AIをMicrosoft Azureで使えるようになり、AI融資審査の導入に弾みがつくと期待されている。

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中