銀行や保険会社はAIを導入しプロセスを自動化する試みを進めている。しかし、AIのロジックはブラックボックスで、意思決定の仕組みが見えない。動作メカニズムが解明されない限り、AIを会社業務に導入できない。IBMはこの問題を解決するために最新のExplainable AIをクラウドで投入した。

出典: IBM

コールセンター

IBMはWatsonをベースとしたAIモデルを企業システムに展開している。その中で人気が高いのがAIコールセンターで、チャットボットがオペレーターに代わり電話を受ける。英国の大手銀行Royal Bank of Scotlandはチャットボット「Cora」を開発し、コールセンターで運用している。Coraは200以上の質問に対し1000通りの回答をすることができ、コールセンターの仮想オペレーターとして利用されている。Coraは進化を続け、次は顧客のファイナンシャルアドバイザーとしての展開が計画されている。

納税書類作成

米国の大手会計事務所H&R BlockはIBM Watsonを利用して納税申告書作成プロセスを最適化した(下の写真)。H&R Block社員が顧客と対面して申告書を作成する際に、Watsonが会話を理解して税金控除(Tax CreditsとTax Deductions)を提言する。米国の税制は複雑で法令は74,000ページに及び、毎年改定される。H&R Blockはこの法令と社員のノウハウでWatsonを教育し、AIが節税のポイントを発見する。

出典: IBM

データ保護規制へのコンプライアンス

カナダの大手情報会社Thomson ReutersはEU一般データ保護規則(General Data Protection Regulation)など準拠するため、AIツール「Data Privacy Advisor」をIBM Watsonで開発した。これは社内のコンサルタント向けのツールで、普通の言語で質問するとツールは言葉で回答を提示する。Thomson ReutersとIBMはデータ保護規則だけでなく、コンサルタントのノウハウでWatsonを教育した。GDPRなどデータ保護法が強化され、企業はマニュアルでの対応に限界を感じAIツールの開発に踏み切った。

AIの説明責任

企業は業務処理でAIを導入するが、そのアルゴリズムはブラックボックスで、重要な処理をAIに任せることができない。また、AIモデルを運用中に問題が発生すると、これを検知するメカニズムが必要となる。更に、問題の原因を突き止め、AIモデルを修正する機能も求められる。業務で使うAIには意思決定のロジックを分かりやすく説明する機能が必須となる。

OpenScaleを発表

市場からExplainable AIに対する要望が高まり、IBMはAIのブラックボックスを解明するクラウド「OpenScale」を発表した。OpenScaleは企業が運用するAIと連携して稼働し、AIモデルの処理プロセスを解明し、アルゴリズムの問題点を指摘する。また、OpenScaleは問題点を指摘するだけでなく、その対応策を提言する機能も有す。OpenScaleはIBM Cloudで提供され、企業が開発したAIモデルと連携して稼働する構造となる。

システム概要

OpenScaleはIBM ResearchとWatsonグループにより開発された。OpenScaleはAIの信頼性を増し、ロジックを明らかにすることを目的に設計された。具体的には、AIモデルに説明責任(explainability)、公平性(fairness)、ライフサイクル管理(lineage)の機能を付加する。OpenScaleは主要AI開発プラットフォームと連携して稼働し、Watson、Tensorflow、SparkML、AWS SageMaker、 AzureMLをサポートする。

バイアスの検知

OpenScaleは業務で稼働しているAIモデルを解析し、「Accuracy(判定精度)」と「Fairness(公平性)」を査定する。下の写真は自動車保険のAIモデルを解析した事例で、どこに問題点があるかを表示している。それぞれのタイルはAIモデルで、自動車保険業務で8つのモジュールが稼働している。これらAIモデルを解析し、OpenScaleはAccuracyとFairnessに関する問題(紫色のハッシュの部分)を指摘している。更に、タイル上部に赤文字で「Bias」と表示される。

出典: IBM

バイアスの原因

この指摘に従ってAIモデルをドリルダウンして判定のメカニズムを見ることができる。例えば「Claim Approval」というAIモデルをクリックすると、自動車保険の保険金請求に関する問題点が可視化される(下の写真)。ここにはAIモデルを教育したときのデータ構成が示されている。横軸が年齢で縦軸がデータ件数を示す。OpenScaleは24歳未満の加入者が公正に扱われていないと指摘する。この原因は教育データの数が不足しているためで、24歳未満の加入者のデータを追加してAIモデルを再教育する必要があることが分かる。

バイアスの説明

更に、OpenScaleは過去のトランザクションでAIモデルが判定した理由を説明する機能もある。自動車保険の保険金請求において、実際のトランザクションのデータをOpenScaleで解析することで、判定理由が示される。具体的には、保険金申請が認められなかった場合には、その理由が示される。実際、保険金請求処理で申請が認められなかった場合は、顧客にこの理由を説明することが法令で義務付けられており、OpenScaleを使うことで法令に順守できる。

出典: IBM

AIプラットフォーマーとなる

OpenScaleを投入したことは、IBMはAIのシステムインテグレータになることを表明したとも解釈できる。AI開発で遅れを取っているIBMであるが、オープンなアプローチででAIモデルを安全に稼働させるプラットフォーマーになる戦略を進めている。Googleを筆頭にシリコンバレーで怖いほどのAIが生み出されるが、東海岸の代表企業IBMは無秩序に増殖するAIを管理運営することをミッションとする。激しく進化するAIを企業が業務で安心して使えるための技術開発がIBMの新たな使命となる。