トランプ政権は安全保障のリスクを理由に、Anthropicに「Fable 5」と「Mythos 5」の運用停止を命じた。米国主要企業と同盟国はProject Glasswingで「Mythos ５」を使って基幹インフラのセキュリティを検証する作業を進めているが、このプロジェクトが停止に追い込まれた。G7サミットでは加盟国がトランプ大統領に輸出規制を撤廃することを強硬に求めた。AI企業は米国が主導するフロンティアモデル検証のための国際組織を設立することを要請した。

G7サミット

フランス・エビアンで開催された主要7カ国首脳会議(G7サミット)ではAIが重要なテーマとなった。6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席し、AI輸出規制などが議論された(下の写真)。欧州を中心とするG7首脳はトランプ大統領に「Mythos 5」などフロンティアモデルの輸出規制撤廃を強く求めた。AI企業のトップは国際間でフロンティアモデルに関するルールの設定が最重要プライオリティであることをトランプ大統領に訴えた。

輸出禁止の背景

商務省は6月12日、Anthropicに対し、非アメリカ人と国外組織がフロンティアモデル「Fable 5」と「Mythos 5」へアクセスすることを禁止することを命じた。これが事実上の輸出規制となりヨーロッパやアジアでモデルへのアクセスが遮断された。米国とグローバル社会はProject Glasswingにおいて、「Mythos 5」で基幹ソフトウェアの安全検証を進めてきたが、このプロジェクトは停止を余儀なくされた。

フランス：輸出規制撤回を強く求める

アメリカ「CNBC」やイギリス「Financial Times」など主要メディアはG7サミットにおけるAIに関する議論を一斉に報じた。フランス、イギリス、EUは「Mythos 5」の出荷規制に関し、トランプ大統領に規制の撤回を求めた。その中で、フランスのマクロン首相が一番アグレッシブで、「Mythos 5」の輸出規制によりグローバル社会に課せられた課題は大きいとの認識を示し、AIモデルに関する共通のルールを制定すべきであると強く主張した。トランプ政権が独断で輸出制限を実施する「キル・スイッチ」を持てば、米国のAI開発企業のビジネスが大打撃を受けると警告した。

イギリス：特例措置を求める

イギリスのスターマー首相はホワイトハウスへのロビー活動を進め、「Mythos 5」と「Fable 5」の輸出規制で例外事項を設けるよう要請した。これに対し、トランプ政権は輸出規制に例外事項を設けることは論外で、G7加盟国がこれら先端モデルにアクセスすることはできないとした。イギリス政府のAI部門は「UK AISI」はアメリカ商務省配下の「CAISI」と密接に「Fable 5」などフロンティアモデルの安全性を査定するプロジェクトを進めており、今回の輸出規制で両国の信頼関係が崩れた、トランプ政権に大きな不審を募らせている。

AI企業のトップが参加

6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席した。主なメンバーは、Sam Altman (OpenAI)、Dario Amodei (Anthropic)、Demis Hassabis (Google DeepMind)の他に、Marc Benioff (Salesforce)、Alexandr Wang (Meta)、Arthur Mensch (Mistral AI)、及びAidan Gomez (Cohere)が加わった。(下の写真、トランプ大統領の右側にSam Altmanが、左側にDemis Hassabisが着席)

AI規制フレームワークの設立を要請

セッションでAI企業のトップはトランプ大統領に米国が主導するAI規制に関するフレームワーク「U.S.-Led Framework」の設立を求めた。AnthropicのDario Amodeiはフロンティアモデルの出荷に関し、民主国家が分裂するのではなく、連携して行くことが最重要であると訴えた。OpenAIのSam AltmanはAmodeiに同調し、G7加盟国にサイバー攻撃を防御するためのツールを提供すべきと主張した。GoogleのDemis Hassabisは、西側諸国が分裂すると、バイオテロやサイバーセキュリティで取り返しのつかないリスクに直面すると警戒した。これら三氏は、米国が主導してモデルを評価する組織「Model Evaluation Forum」と技術標準化組織「Technical Standards Body」を設立することをトランプ大統領に要請した。(下の写真、マクロン大統領の右側にMarc Benioffが、左側にDario Amodeiが着席)

AIルール設定が最重要プライオリティ

トランプ政権の唐突で恣意的な輸出規制はグローバル社会に大きな混乱をもたらし、欧州諸国を中心に、米国政府のAI政策にフラストレーションを募らせた。EU首脳は米国技術に依存する政策を見直し、これに代わる代替技術の模索を進めている。混乱の原因は、なぜ「Mythos 5」と「Fable 5」の輸出が禁止されたのか、納得できる理由が示されていないことにある。AI運用に関するルールの欠如が最大の問題で、AI企業トップはフロンティアモデルの安全性評価と技術標準化を強く求めた。

米国政府は安全保障のリスクを理由にAnthropicに「Fable 5」と「Mythos 5」の運用を停止するよう要請した。これを受け、Anthropicは両モデルのサービスを停止した。米国内だけでなく、日本を含む同盟国も両モデルへのアクセスが遮断された。トランプ政権はAI開発を促進する政策を取ってきたが、Anthropicのフロンティアモデルの運用停止を求めるなど、AI規制を極めて厳格に施行する方向に大転換した。

米国政府の要請

Anthropicは6月12日、米国政府の要請を受け「Fable 5」と「Mythos 5」のアクセスをサスペンドすると発表した(上の写真、イメージ)。米国政府は国家安全保障を理由に、米国内外の非アメリカ人が両モデルにアクセスすることを停止することを求めた。Anthropicは即座に、両モデルの運用を停止した。

アクセス停止の理由

Anthropicは連邦政府から両モデルの運用停止を要請する書簡を受領したが、そこには要請理由は書かれていなかった。Anthropicは連邦政府との協議の中で、「ジェイルブレイク(Jailbreak)」がその要因であることを把握した。ジェイルブレイクとはプロンプトに特殊な文字列を挿入し、AIモデルの制御を奪う手法を指す。

Fable 5をジェイルブレイク

このケースでは、「Fable 5」に特殊なコードベースを入力することで、システムの制御を奪うことに成功した事例が報告された。Fable 5はMythos 5に強靭なガードレールを導入し、サイバー攻撃の機能を徹底的に抑止したモデルとなる。もし、Fable 5がジェイルブレイクされると、この強靭なガードレールが突破され、サイバー攻撃の武器となり、社会に甚大な被害をもたらす。

Anthropicの解釈

Anthropicはこのジェイルブレイクは「Narrow Jailbreak(限定的なジェイルブレイク)」であり、「Universal Jailbreak(広範囲なジェイルブレイク)」ではないとの見解を示している(下の写真、そのイメージ)。「Narrow Jailbreak」とはシステムの極一部の制御を奪うもので、サイバー攻撃の特定機能だけが使われるケースを指す。Fable 5のジェイルブレイクはこのケースに相当する。現実的に、「Narrow Jailbreak」を防ぐことは不可能で、このジェイルブレイクをOpenAI GPT-5.5に適用すると、ガードレールが突破されたことを明らかにしている。「Universal Jailbreak」はサイバー機能の全ての制御を奪うもので、Fable 5でこの事象は発生していない。

ジェイルブレイクの報告書

Fable 5がジェイルブレイクでガードレールが突破されたというインシデントはAmazonの研究者により発見され、CEOであるAndy Jassyが連邦政府に報告したとされる。ウォールストリートジャーナルなどが報道している。Andy Jassyが直接、ホワイトハウスと財務相長官Scott Bessentにコンタクトしこの事実を報告した。ホワイトハウスは緊急会議を開催し、セキュリティ専門家がこのジェイルブレイクを確認し、トランプ大統領が輸出管理令「Export Control Directive」を発行した。

米国社会で議論が白熱

Fable 5とMythos 5の輸出規制指示について、反対派と賛成派が激しく主張を展開し、国論が二分されている。規制反対派は、米国政府がジェイルブレイクを根拠に、両モデルの運用を停止させたことは過剰反応であると主張する。一方、規制賛成派は、Anthropicは政府にAI規制を求めており、実際に、規制が実施されると、今度は規制緩和を求めるのは、一貫性が無いと主張する。しかし、米国の世論は規制反対派が優勢で、連邦政府に輸出管理令の根拠を明らかにするよう情報公開を求めている。

トランプ政権はAI規制に急転換

トランプ大統領はAIのイノベーションを推進しAI規制を撤廃してきたが、Mythos Previewの出荷規制や今回のFable 5とMythos 5の運用停止命令で、AI政策が180度転換した(下の写真、イメージ)。トランプ政権はMythos Previewでサイバー攻撃の脅威を認識し、規制を導入する方向にピボットした。当面の課題は、Fable 5とMythos 5の運用停止措置が継続するのか、それとも、両者の協議で妥結に向かうのかが最大の関心事となる。

AI規制に向かうのならプロセスを定義

米国のセンティメントはフロンティアモデルに一定の規制を設けることに賛成の意見が多い。一方で、Fable 5の運用停止を唐突に要請したことで産業界に脅威と不安が広がっている。AI開発企業は次世代モデルの開発を進めており、どの基準を満たすと製品出荷が認められるのか、情勢を見極める姿勢に入った。AI規制に舵を切ることに共通の合意が形成されつつあり、次は、出荷基準のルール制定で、モデルの評価方法や安全基準などプロセスの構築が求められる。