アメリカ大統領選挙は大接戦と言われてきたがトランプ氏が圧勝した。国民の過半数が米国第一主義を支持し、この四年間で国民の総意が大きくシフトした。もはや今までの常識は通用せず、新しいパラダイムの元で事業を展開する必要がある。ハイテクに関しては、アメリカ国内で政策が大きく見直され規制緩和に向かう。日本や欧州へのインパクトも大きく、構築された関係が見直され、今後の協調のありかたを模索することになる。

巨大テックのスタンス

巨大テック経営者は一斉に、トランプ氏に祝意を示し、新政権と協調していく姿勢を示した(下の写真)。トランプ氏は選挙戦でハイテク政策に言及することは無かったが、規制を緩和することでイノベーションを促進する方向に進むとみられている。AI政策も例外ではなく、規制が緩和され技術開発が急進する勢いとなった。巨大テックやスタートアップ企業にとっては望ましい方向であるが、トランプ氏の発言がどう政策に反映されるのか不透明な部分は大きい。

ハイテク政策はどうなる

トランプ氏はハイテク政策に関し明確な意思表明をしていないが、共和党シンクタンクなどが政策を提言している。これは「Project 2025」と呼ばれ、トランプ第二次政権の政策を包括的に提示している(下の写真)。ハイテクに関しては、AI、量子コンピュータ、次世代通信技術/5G、次世代製造技術、バイオテクノロジーに関する政策に言及。AIに関しては、国家安全保障の観点から、中国を念頭に、AI先進技術を敵対国に輸出することを厳しく制限することを求めている。また、AIなど高度な技術が盗用されることを防ぐため、安全技術の開発を提言している。

イノベーション推進

Project 2025はAIの安全性を求めると同時に、技術開発におけるイノベーションを推進することを提言している。これは「Tech-Neutral Approach」と呼ばれ、先進技術の開発を優先し、規制を最小限に留めるよう求めている。AI開発においては、政府の規制を最小限とし、企業による自主規制を推奨している。新政権がこの提言を採用するかどうかは見通せないが、基本路線としてはトランプ氏のビジョンに沿っている。トランプ政権がAI開発を後押しすることで、技術開発が急進する。

反トラスト法の運用を緩和

トランプ政権では反トラスト法の運用を緩和する方向に進むとみられている。バイデン政権では司法省がGoogleをインターネット検索や広告事業で反トラスト法に違反する疑いがあるとして提訴し、連邦地方裁判が司法省の主張を認める判決を下した(下の写真)。司法省はこの判決を受け、Googleを解体するなどの指針を示している。また、連邦取引員会(Federal Trade Commission)はMetaやAmazonを反トラスト法違反で提訴している。トランプ政権は、反トラスト法の厳格な運用方針を緩め、企業が自由に事業を展開できる方向に進む公算が大きい。

ソーシャルネットワーク

トランプ第一次政権はソーシャルネットワークTikTokを安全保障の観点から米国での事業を禁止する指針を打ち出した。バイデン政権では、連邦議会がTikTokの米国における事業を禁止する法令を可決した。トランプ氏は先の政策を翻し、TikTokの事業継続を認めると発言している。TikTokにとってはトランプ氏によりビジネス存続の危機を救われた形となった。一方、トランプ氏や共和党議員は、ソーシャルネットワークが保守系の意見を制限しているとして、Facebookなどに自由に発言できるよう求めている。ソーシャルネットワークはリベラルに偏重しているとして、Metaなどへの圧力が高まることが予想される。

暗号通貨

トランプ氏は暗号通貨をサポートするポジションを示し、選挙戦で暗号通貨企業や個人から絶大な支持を受けた。連邦議会下院議員の選挙では、暗号通貨をサポートする議員が相次いで当選し、暗号通貨コミュニティの影響力を示した。バイデン政権では証券取引委員会(Securities and Exchange Commission)が暗号通貨を規制する政策を展開しているが、トランプ政権ではこれを緩和する方向に進むとみられる。暗号通貨の取引が活発になることを見越して、ビットコインなど暗号通貨の価格が急上昇している。

シリコンバレーのムード

巨大テックの経営者はいち早く、トランプ氏と接触し協調していく姿勢を示した。また、スタートアップ企業は規制緩和で企業買収などが進み、ビジネスが活性化すると期待している。シリコンバレーはリベラルな文化で、トランプ氏を支援することはタブー視されてきた。しかし、企業の価値判断は事業収入で、個人の思想と相いれない部分があるものの、トランプ第二次政権と良好な関係を構築するための準備を進めている。

日本や欧州へのインパクト

トランプ新政権も米国第一主義を基軸政策とすることで、欧州や日本への影響が甚大となる。トランプ氏は自国の製造業を保護するため、同盟国からの輸入品に10％から20％の関税を課す方針を示しており、影響は避けられない情勢となっている。ハイテク分野においては、AIに関し同盟国と協調して安全技術の開発を進めてきたが、この方向性が不透明となった。

アメリカが変わった

2016年の大統領選挙では所謂MAGAサポータの支持で当選したが、今年はアメリカ国民の過半数がトランプ氏の政策に共鳴した。トランプ氏は異端者ではなく、アメリカ国民が米国第一や保護主義を基本理念する政策を望んでいる。バイデン政権は同盟国と協調する路線を歩んできたが、これが否定され、アメリカは自国優先の閉じた社会に向かうことになる。アメリカが大きく変わった。

オープンソース管理団体「Open Source Initiative (OSI)」は、10月28日、AIに関するオープンソースの定義を公開した。Linuxに代表されるように、ソフトウェアに関するオープンソースの定義は確定し、共通の理解が形成されている。しかし、生成AIを中心とするAIはソフトウェアとは構造が大きく異なり、オープンソースについての議論が続いていた。異なる定義が混在し市場が混乱していたが、OSIの発表によりオープンソースAIの位置づけが明確になった。しかし、Metaはこの定義を受け入れることはできないとして議論が再燃した。Metaは生成AIモデル「Llama」をオープンソースとして事業を構築しているが、この戦略の見直しを迫られる。

オープンソース・ソフトウェアとは

OSIはソフトウェアに関するオープンソースを「The Open Source Definition」として定義している。これによるとオープンソースのコンセプトは、ソフトウェアを自由に利用、改造、再配布できるものと定めれられている。この代表がLinuxでソフトウェアを無償で利用することができ、また、そのソースコードを自由に改造し、それを製品として販売することができる。これにより、誰もがソフトウェアの恩恵を受けることができ、また、技術開発が進むと期待される。

オープンソースAIの定義

これに対しOSIは新たにAIに関するオープンソースの定義「The Open Source AI Definition」を制定した(下の写真)。この理由は、AIはソフトウェアとは構成が大きく異なり、前述のThe Open Source Definitionを適用することができない。AIも広義のソフトウェアであるが、コードが単独で稼働するのではなく、データと密接に関連し、またシステム構成やそのパラメータが重要な役割を担う。AIオープンソースの定義は、これら要件を包括した内容となっている。

オープンソースAIの定義の概要

OSIによるオープンソースAIはデータ、コード、パラメータの三つのエレメントを含むと定義している。ソフトウェアのオープンソースはコードだけであるが、AIのケースではデータとパラメータが加わる。具体的には：

• データ(Data Information)：モデルの教育で使ったデータに関する詳細な情報。データの出典やデータにアクセスする手法などを公開する義務
• コード(Code)：モデルに関するソースコード。モデルを生成するためのコードの他に、モデルを教育及び実行するためのコードを公開する義務。AIモデル自体だけでなく、それを開発・運用するための一連のコードの公開を求めている。
• パラメータ(Parameters)：モデルの重み(Weights)や設定情報。重みとはモデルの挙動を決定する数値で、トランスフォーマではQuery、Key、Valueなどの値となる。AIモデルを教育することで重みなどを決定するが、これらを公開することを求めている。

コードとデータとパラメータの重要性

ソフトウェアではソースコードを公開することで、機能を理解しこれを改造して新たなソフトウェアを生成できる。これに対し、AIではソースコードを公開するだけでは、AIモデルを稼働させることができない。更に、ソースコードだけでは、これを改造して新たなモデルを生成するために多大な労力を要す。AIモデルを教育するためのデータと、その結果であるパラメータの公開が不可欠で、コードとデータとパラメータが対になり、AIシステムを再構築し、これをベースに新たなモデルを開発することができる。

米国政府はオープンソースAIを推奨

米国連邦政府の機関である取引委員会(Federal Trade Commission、FTC)はオープンソースAI普及を後押ししている。FTCは独自の見解を示し、AIがオープンソースであるためには、モデルのソースコードと重み(Weights)の公開が最低条件であるとしている。上述のコードとパラメータの公開を求めているが、データについては定義に加えていない。FTCはこれを「Open-Weights Foundation Models」と呼び、コードと重みの公開で技術開発が進むと期待している(下の写真)。

Metaのオープンソース戦略

多くの企業が生成AIモデルを“オープンソース”として公開し、コミュニティの技術開発を支援している。Metaは生成AIモデル「Llama」を開発し、そのコードとパラメータを公開し、“オープンソース”としてリリースした。企業や個人はこのモデルを自由に使うことができ、コードを改造してビジネスや研究を進めることができる。OSIの定義によると、オープンソースと名乗るためには、コードとパラメータだけでなく、データの公開が必須となる。MetaはLlamaに関するデータを公開しておらず、オープンソースの定義を満たすことができない。このためMetaはOSIとの折衝を続け共通の理解を見つけるとしている。

オープンソースの危険性

生成AIをオープンソースとして公開することに関し、技術進化に寄与するという意見と、安全保障が脅かされるという意見があり、議論が続いている。特に、ハイエンドモデルは高度な機能を持ち、敵対国や攻撃集団がこれを悪用して、生物兵器などの開発で使われることが懸念される。また、生成AIを使ったサイバー攻撃が現実問題となり、国家安全保障の観点から重大なリスクを抱えることになる。

企業のオープンソース戦略

これに対し、企業は危険性を回避するため、ハイエンドモデルはクローズドソースとして運営し、ローエンドモデルだけをオープンソースとして公開する戦略を取る。Googleは、ハイエンドモデル(Gemini)はクローズドソースとして非公開で運用し、ローエンドモデル(Gemma)をオープンソースとして公開している(下の写真)。事業モデルの観点からは、ハイエンドモデルをビジネスの収益源とし、ローエンドモデルでエコシステムを拡大する。OSIの定義で統一した理解が形成されつつあり、Googleなど主要企業はオープンソースという名称を「オープンモデル(Open Models)」に変更し、その違いを明らかにしている。

EUはAIを安全に運用するための法令「AI Act」の運用を開始し、域内で事業を展開する企業はこの規定に従うことが義務付けられた。AI Actは複雑な法体系で、これを読み下し、AIシステムを評価するには、多大なコストと時間を要す。欧州の研究団体はモデルがAI Actに準拠しているかを審査するツール「コンプライアンス・チェッカー」を開発した。実際に、OpenAIやGoogleなど主要企業の製品をコンプライアンス・チェッカーで評価すると、AI Actに準拠できないことが判明した。生成AIに関する条項は来年8月に発効し、それまでに各企業はモデルの最適化など対策が求められる。また、生成AIモデルを改造して提供する際にもこの規定が適用され、生成AIを組み込んだシステムを開発する企業も対象となり注意を要す。

コンプライアンス・チェッカー

欧州の研究団体は生成AIモデルがAI Actに準拠するかどうかを査定するプラットフォーム「COMPL-AI」を公開した(下の写真)。これは法令のコンプライアンス・チェッカーとして機能し、生成AIモデルが法令の条項をクリアできるかどうかを審査する。COMPL-AIはオープンソースとして公開され、誰でも自由に生成AIモデルを評価することができる。EU域内で生成AIモデルを使って事業する企業はこのツールでシステムが法令に準拠しているかどうかを把握できる。

コンプライアンス・チェッカーの仕組み

COMPL-AIはAI Actに関するコンプライアンスを評価する最初のフレームワークとなる。COMPL-AIはAI Actに規定されている条項を理解し、これを技術要件に変換し、それらをベンチマークテストを実行して、AIシステムのコンプライアンスを評価する構成となる(下の写真)。ベンチマーク結果は評価レポートとして出力され、AIシステムがAI Actの規定に準拠している部分と、そうでない部分を特定する。

生成AIモデルの判定結果

COMPL-AIは、Anthropic、OpenAI、Meta、Googleなど主要企業の生成AIについて評価を実施しその結果を公開した。評価結果は1.00満点で示され、Claude 3 OpusやGPT-4 Turboは0.89と高い成績を示したが、AI Actの規定に準拠できない機能があることが分かった。また、Googleが提供するGemma-2-9bは0.72とコンプライアンスの度合いが低く、モデルにより大きな隔たりがあることが分かった。(下のグラフ、COMPL-AIの評価結果をAIで可視化)

AI Actが規定する技術要件

COMPL-AIはAI Actが規定する条項に生成AIモデルが準拠しているかどうかを判定する。AI ActはAIシステムが準拠すべき条件を六つの領域に分類している(下の写真)：

• Human Agency ＆ Oversight：人間の自主性を尊重、AIシステムは人間が制御し監視する
• Technical Robustness and Safety：安定性と安全性、AIシステムはサイバー攻撃やエラーに対する耐性が高いこと
• Privacy & Data Governance：プライバシーとデータ管理、教育データは著作権を尊重し個人情報を保護すること
• Transparency：透明性、AIシステムは判定に関する説明機能やトレース機能を持つこと
• Diversity, Non-discrimination & Fairness：多様性・平等・公平性、AIシステムは差別やバイアスによるインパクトを最小とすること
• Social ＆ Environmental Well-being：社会と環境のウェルビーイング、持続可能なAI開発を推進すること

技術要件とベンチマーク

COMPL-AIはこれらAI Actが規定する六つの領域において、規制法の条項を技術要件「Technical Requirement」として抽出し、これに関連するベンチマークを特定する(下の写真)。ベンチマークは公開されているモデルを使い、技術要件とベンチマークを紐づける。AIモデルに対しこれらのベンチマークを実行し、その結果でコンプライアンスを評価する。例えば、「Technical Robustness and Safety」という項目では、技術要件が「Robustness and Predictability」となり、これを評価するベンチマークとして「MMLU：Robustness」などが使われた。

評価結果レポート

COMPL-AIはAI Actが規定する六つの領域においてAIモデルがこれらに準拠しているかを評価する。上述の「Technical Robustness and Safety」においては、モデルの安定性と安全性に関し、AI Actの規定に合致しているかを検証する(下の写真)。AI Actはこの領域において三つの規定を設けており、COMPL-AIはAIモデルをこの技術要件から評価する。実際の評価では、業界の標準ベンチマークテストが使われ、その結果が評価基準として使われる。

生成AIモデルのコンプライアンス状況

COMPL-AIは現行の生成AIモデルの評価結果を公開したが、AI Actに準拠できない項目があることが判明した。世界で幅広く利用されている生成AIモデルであるが、AI Actの規定に準拠するには最適化など、更なる開発が求められる。総評としては：

• 準拠できない項目：現行の生成AIモデルはAI Actに準拠できない規定がある。サイバーセキュリティや公平性のベンチマークでは達成度は50％。攻撃への耐性強化などが求められる。
• 有害なコンテンツ：一方で、多くのAIモデルは有害なコンテンツの出力を抑制する機能についてはAI Actの規定に準拠できる水準に達している。
• 規定を明確にする必要性：著作権保護やプライバシー保護の規定に関しては、AI Actの規定が明確でなく、定義を明確にする必要がある。

AI Actの生成AI規制条項

AI Actでは生成AIは「General-Purpose AI (GPAI)、汎用AI」と定義され、安全に運用するための規定が制定された。生成AIは幅広いタスクに適用されるため「汎用AI」として定義され、その開発や運用において、モデルの情報を開示することが義務付けられている。生成AIが準拠すべき条件については「Codes of Practice」に記載されるが、この規定についてはまだ検討が続いている。汎用AIについては、一般からのコメントを参考に、2025年5月に最終決定される。

オープンソースのコンプライアンス・チェッカー

COMPL-AIはAI Actだけでなく、米国や日本で制定されるAI規制法のコンプライアンス・チェッカーに応用できると期待されている。米国ではこれからAI規制法の整備が急速に進む状況で、生成AIモデルのコンプライアンスを評価するツールが求められる。Googleなどの大手企業は独自のツールを整備しているが、一般企業は、COMPL-AIを利用することでモデルのコンプライアンスを評価できる。企業経営者にとって動きが激しいAI規制法に準拠できるかが最大の懸念材料で、オープンソースのコンプライアンス・チェッカーの役割に注目が集まっている。