米国政府は危険なAIから国民を守る政策を相次いで発表した。連邦議会はAIを安全に運用するための構想を明らかにした。国民の権利を守るため、開発企業にAIシステムの内部を公開し、責任ある運用を求める。また、ホワイトハウスは、信頼できるAIの開発に向けた政策を発表した。全米に7つの研究所を設立し、AIの安全性を含む先進技法を開発する。更に、ハリス副大統領は、GoogleやMicrosoftなどのCEOと会談し、AIの安全性を強化することを要請した(下の写真)。

米国政府の動き

米国政府がAI規制に向けて動き始めたが、その背景にはChatGPTなど生成AIの急速な普及がある。アメリカ国民はAIの利便性だけでなく、その脅威を実感し、政府に安全対策を求めている。また、中国政府がAI規制を導入したが、これが警鐘となり、米国もAIの倫理的な運用を実行し、テクノロジーにおける指導的立場を維持すべきとの世論が優勢になってきた。

連邦議会のAI規制法案

これに応えるかたちで、上院院内総務であるチャック・シューマー(Chuck Schumer、下の写真)はAI規制のフレームワークを発表した。このフレームワークは四つのガードレールで構成され、AI開発企業に責任ある運用を求めている。具体的には、AI開発企業は製品を出荷する前に、独立機関でAIの検査を受け、その結果を一般に公開することを求めている。四つのガードレールはAIの透明性を求めるもので、その概要は：

• Who：誰がAIのアルゴリズムを教育したのかを開示する。誰がAIの利用者であるかを明らかにする。
• Where：教育で使ったデータはどこから来たのかその出典を開示する。
• How：アルゴリズムがどのように判定を下したのかそのメカニズムを明らかにする。
• Protect：AIがアメリカ国民の価値に沿っていることを保証する。

フレームワークの特徴

フレームワークは、AIシステムの内部を明らかにすることが、信頼できるAIに繋がると考える。これにより、AIを誤用することを防ぎ、また、AIが偽情報を生成し、アルゴリズムがバイアスする危険性を低減する。連邦議会はAIの透明性を担保することで、安全で信頼できるAIにつながるとの考え方を取る。この法案骨子は、今後数週間にわたり、大学や民間や政府関係者の意見を聞き、最終調整された後に、議会で審議されることとなる。

バイデン政権のAI政策

今週、ホワイトハウスは信頼できるAIを開発するための新たな政策を発表した。バイデン政権は国民から信頼されるAIを開発するために1億4000万ドルの予算を充て、全米に7つのAI研究所を設立する。このプロジェクトは「National AI Research (NAIR) Institutes」と呼ばれ、アメリカ国立科学財団(National Science Foundation, NSF)が指揮をとる。研究所はニューロサイエンスなど幅広い分野をカバーするが、その中心が信頼できるAI技法の開発となる。

AIの安全性の検証

また、ホワイトハウスはAI企業が製品を出荷する前にその安全性を保障することを要請している。これを受け、GoogleやMicrosoftやNvidiaなどは、大規模言語モデルを公開の場で検証し、その安全性を確認するプロジェクトを計画している。これは「Red Teaming」と呼ばれ、利用者がAIモデルを攻撃し、その脆弱性を把握する手法を取る。更に、政策面では、アメリカ合衆国行政管理予算局(Office of Management and Budget)がこの夏までに、連邦政府がAIを安全に利用するためのガイドラインを策定する。

米国政府はAI規制に向かう

ヨーロッパ諸国は域内のAIを統一的に規制する法律「AI Act」の最終調整を進めている。米国はAI規制で後れを取ってきたが、今年に入りAI規制を導入する動きが急進し、バイデン政権や連邦議会が一斉に動き出した。バイデン政権は、昨年は「チップ法」で半導体製造を国産化するための法律を可決した。今年は、AIの研究開発を支援する観点から、国民に信頼されるAIの普及を目指す。連邦議会は、中国政府に対峙し、国家安全保障を担保する観点から、AI規制を進める。

ChatGPTなど大規模言語モデルは人間レベルの言語能力を持ち、利用が急拡大しているが、アルゴリズムが内包する危険性が社会問題となっている。大規模言語モデルが大量破壊兵器の制作方法を開示するなど、危険情報や偽情報を生成し、事業で利用するにはリスクが高い。NvidiaはChatGPTなど大規模言語モデルを安全に運用するツール「NeMo Guardrails」を開発し、これを一般に公開した。

NeMo Guardrailsとは

「NeMo Guardrails」は大規模言語モデルの暴走を防ぐための「ガードレール」で、アルゴリズムは指定された範囲内で稼働し、危険情報の出力が抑止される。これにより、ChatGPTなど言語モデルを安全に運用でき、企業がビジネスで導入することが可能となる。NvidiaはNeMo Guardrailsをオープンソースとして公開しており、誰でも自由に利用できる。

ガードレールとは

NeMo Guardrailsは大規模言語モデルと連携して使われ、アルゴリズムが規定された範囲内で安全に稼働する仕様となる(下のグラフィックス)。ChatGPTなど高度な言語モデルをサポートしており、企業がビジネスで安全に利用することを前提に開発された。NeMo Guardrailsはモデルの暴走を三つの手法で抑止する：

• トピックス：モデルは指定された業務だけを処理する
• 安全性：モデルは有害な言葉をフィルターする
• セキュリティ：モデルはサイバー攻撃を防御する

ガードレール１：トピックス

このガードレールは「Topical guardrails」と呼ばれ、モデルは指定されたトピックスだけを処理し、それ以外の危険な領域には立ち入らない。例えば、企業がChatGPTを製品に関するチャットボットとして使用する際には、顧客が製品以外の問い合わせをした場合は、解答を生成しない。顧客がチャットボットと非倫理的な会話を進めることを防ぐ狙いがある。

ガードレール２：安全性

このガードレールは「Safety guardrails」と呼ばれ、モデルは出力する情報から有害情報をフィルターする。また、ガードレールは、出力する情報の参照先を確認し、正確な情報だけを生成する。悪意ある利用者が大規模言語モデルから危険情報を引き出すインシデントが後を絶たないが、ガードレールはこの攻撃を防御する。(下のグラフィックス、ChatGPTは問われたことをもっともらしく説明するが情報は間違っているケース。)

ガードレール３：セキュリティ

このガードレールは「Security guardrails」と呼ばれ、モデルがマルウェアを実行することを防ぎ、また、外部サイトの危険なアプリに接続することを抑止する機能を持つ。大規模言語モデルが社会に普及するにつれ、これを対象とするサイバー攻撃が重大な問題となっている。これは「LLM-Based Attacks」と呼ばれ、言語モデルの脆弱性を攻撃するもので、ガードレールがこれを防御する。

ガードレールの動作原理

ガードレールは利用者と大規模言語モデルの中間に位置し、ファイアウォールとして機能する。ガードレールは利用者の入力を解釈し、それに合わせてガードレールを生成し、解答を生成する構造となる(下のグラフィックス)。ガードレールはプログラムできるモジュールで、運用に合わせて最適な機能を定義する構造となる。企業は大規模言語モデルをビジネスに組み込み、ガードレールの最適な機能を設定して利用する。

オープンソースと製品

ガードレール「NeMo Guardrails」はオープンソースとしてGitHubに公開されており、だれでも自由に利用できる。企業はこのオープンソースを使って、独自のモデルを生成することができる。また、Nvidiaは生成型AIを開発するためのフレームワーク「NeMo Framework」を発表したが(下のグラフィックス)、ここにNeMo Guardrailsが組み込まれている。ChatGPTなどの危険性が社会問題になる中、モデルの暴走を抑止する技術が登場し、大規模言語モデルを安全に運用できると期待されている。

金融情報サービス企業ブルームバーグ(Bloomberg)は、独自の大規模言語モデル「BloombergGPT」を開発した。これはChatGPTのコンセプトをフィンテックに適用したもので、金融情報を解析するために使われる。ChatGPTは汎用的な言語モデルであるが、BloombergGPTは金融情報処理に特化した構造で、AIが銀行業務に関するドキュメントを解析する。(下の写真、ブルームバーグは証券取引に関する情報を配信。)

BloombergGPTの構造

「BloombergGPT」は、名称が示している通り、大規模言語モデル「GPT」をベースとし、ブルームバーグの金融タスクを実行する専用AIとなる。GPTとは「Generative Pre-Trained」の略で、「プレ教育」した生成型AIを意味する。生成型AIは「Transformers」というモデルを使っており、OpenAIはこれをプレ教育して「ChatGPT」や「GPT-3」などを開発した。

BloombergGPTの機能

これに対して、ブルームバーグはプレ教育された生成型AIを使い、このモデルを大量の金融データで教育し、専用GPTである「BloombergGPT」を開発した。ブルームバーグは金融情報企業で、40年にわたる大量の金融関連データを保有しており、これを使ってアルゴリズムを教育した。これにより、BloombergGPTは金融に関する知識を獲得し、フィンテック市場で最も高性能なAIを生み出した。

利用方法

BloombergGPTは銀行業務などで金融情報を解析するために使われる。BloombergGPTは「デコーダー(Decoder)」というモデルで、入力されたテキストを解析し、そこに潜んでいる知識を引き出すために使われる。具体的には、入力されたテキストから、感情分析(Sentiment Analysis)、固有名詞の抽出(Named Entity Recognition)、質疑応答(Question Answer)などのタスクを実行する。これらは金融自然言語処理「Financial NLP」という機能で、多くの銀行で使われているが、BloombergGPTはこの処理で世界最大の精度を示した。(下の写真、金融関連記事を入力し、BloombergGPTがタイトルを生成する事例。)

システム構成

BloombergGPTはオープンソースの大規模言語モデル「Bloom」をベースに開発された。Bloomは一般に公開されており、このモデルを大量の金融データで教育した。ブルームバーグは教育のための大規模なデータベースを構築した。デーやベースは、金融関連データと一般データで構成され、それぞれの規模は：

• 金融関連のデータベース：3,630億トークン
• 一般情報のデータベース：3,450億トークン

トークンとは自然言語処理の最小単位を示し、ここでは単語の数となる。このように、BloombergGPTは合計で7,000億超のトークンで教育された大規模モデルで、金融処理に特化したAIであるが、一般情報を処理する機能を兼ね備えていることが特徴となる。

オープンソース「Bloom」とは

「Bloom」はオープンソース団体Hugging Faceにより開発された大規模言語モデルで、1760億個のパラメータから構成され、59の言語を処理する機能を持つ。OpenAIが開発した「GPT-3」は1350億個のパラメータから成るが、これを上回り世界最大規模のオープンソースAIモデルとなる。Hugging FaceはBloomをオープンソースとして公開しており(下の写真)、企業や大学などが利用している。ブルームバーグはBloomをベースに、これを改造し、金融処理に特化したモデルを構築した。

ベンチマーク結果

BloombergGPTは言語処理のベンチマークで好成績を示した。BloombergGPTは金融タスクに特化した構成であり、金融処理でトップの成績を示した。(下のグラフ上段)。また、一般情報で教育されたモデルでもあり、汎用ベンチマークでOpenAIのGPT-3に次ぐ性能を示している。(下のグラフ下段)。BloombergGPTは一般的な言語処理で高度な性能を示し、これが金融処理で生かされていると考えられる。

業種に特化した”ChatGPT”

BloombergGPTは大規模言語モデルの将来動向に関し重要な指標を示した。OpenAIが開発するChatGPTは、特定の業種に特化することなく、汎用的にタスクを実行するモデルとなる。これに対し、BloombergGPTはファイナンスに特化したタスクを実行する構造で、フィンテック向けの専用モデルとなる。業種に特化すると、小さいモデルでも高度な性能を示し、この方式が注目されている。これからは、金融だけでなく、医療や教育やEコマースなど、業種に特化した”ChatGPT”の開発が進むと考えられる。

バイデン大統領はハイテク企業に、AIを出荷する前に、製品の安全性を確認するよう求めた。この声明に続き、米国商務省はChatGPTなど高度なAIモデルに関し、安全性の認証制度「Certifications」の導入準備を開始した。認証制度とは、AIの安全基準を制定し、これをパスした製品に、認定証書を付与する仕組みとなる。

安全制度の概要

これは、米国商務省の電気通信情報局(National Telecommunications and Information Administration (NTIA))が発表したもので、「AIの説明責任政策 (AI Accountability Policy)」と呼ばれ(上の写真)、AIの安全性を保障する制度の構築を目標とする。これはクルマの型式認証に似た考え方で、クルマの販売では車両が安全規格を満たしていることが義務付けられるが、AIも同様に、出荷されるAIは安全規格を満たしていることが求められる。

パブリックコメント

この制度の構築に向け、NTIAは一般から意見を求める通達を公開した。企業や利用者から寄せられたパブリックコメントを参考に、制度の在り方を決めていく。NTIAはバイデン大統領の諮問機関で、この結論を元に、AI認証制度に関し大統領にアドバイスをすることとなる。この助言を元に、バイデン政権は連邦議会に働きかけ、法令の制定を進めることが最終ゴールとなる。

認証制度の素案

NTIAは、AIが安全であることを保障する認証制度の素案を示し、これに対してコメントを求めている。NTIAが提示した認証制度の素案は三つのステップから構成される：

• 監査(Audits)：検証のためにAIシステムの情報を得る
• 検証(Assessments)：得た情報を審査し安全基準を満たすかどうかを判定
• 認証(Certifications)：安全基準を満たすAIに証明書を発行

AIの安全性を認証することで、高度なAIが利用者から信頼を得ることになる。

認証制度の論点

NTIAはこの構想に関してパブリックコメントを求めているが、論点を整理し、検討すべきポイントを明らかにした(下のグラフィックス)。認証制度が機能するためには、利用者が安全にAIを利用できるだけでなく、高度なAIを開発する企業にとってもメリットがあることが重要となる。NTIAが提示した論点は次の通りで、これらの点を中心に意見を求めている：

• 検査方法：何を検証すれば信頼で安全と言えるか
• データ：どのデータを使って検証するか
• インセンティブ：この規格を導入するインセンティブ
• アプリケーション：業種間で利用法が異なるAIをどう検証するか

連邦省庁の動き

米国では連邦政府によるAIを規制する法令は無いが、各省庁は既存の法令に従ってAIの運用を監視する施策を取っている。その中心が連邦取引委員会(Federal Trade Commission)で、反トラスト法に基づく不公正な競争の制限と、消費者保護の推進を任務としている。消費者保護では、AIの危険性から消費者を守ることを重点的に進めており、アルゴリズム利用に関するガイドラインを発表し、不公正な利用を現行法令で取り締まる。

連邦議会の動き

チャットボットChatGPTが社会で急速に普及し、連邦議会でAI規制に向けた機運が高まっている。カリフォルニア州の下院議員Ted Lieuは、AIの危険性を認識し、議会はAIを規制するための行動を起こすことを呼び掛けている。また、コロラド州の上院議員Michael Bennetは、高度なチャットボットが子供たちに有害な助言をしている事実を指摘し、ハイテク企業に対応を求めている。国会議員はAIの威力を認識し、同時にAIの脅威を実感しており、AI規制に関するアクションを求めている。

OpenAIの安全対策

ChatGPTなど高度なAIを生み出しているOpenAIは、政府にAIを規制するための法令を整備するよう求めている。OpenAIはブログで安全性に関する取り組みを公表し(下のグラフィックス)、ChatGPTなど高度な言語モデルが、危険な情報を出力しないための措置を公表した。同時に、政府はAI企業が順守すべきベストプラクティスを示し、開発と運用のガイドラインの制定を求めている。これに先立ち、OpenAIはAI規制について政府と協議していることを明らかにしている。

電気通信情報局「NTIA」とは

NTIAは商務省配下の組織で、通信や情報技術に関し、大統領に政策をアドバイスすることをミッションとしている。NTIAはブロードバンドの普及や５Gなど無線通信の周波数管理に関する政策の立案を支えてきた。NTIAは、信頼できるAIを普及させることが、イノベーションを生み経済振興につながると理解している。バイデン政権はNTIAの答申を受け、連邦議会と協調してAI規制の法制化を進める。