トランプ政権は安全保障のリスクを理由に、Anthropicに「Fable 5」と「Mythos 5」の運用停止を命じた。米国主要企業と同盟国はProject Glasswingで「Mythos ５」を使って基幹インフラのセキュリティを検証する作業を進めているが、このプロジェクトが停止に追い込まれた。G7サミットでは加盟国がトランプ大統領に輸出規制を撤廃することを強硬に求めた。AI企業は米国が主導するフロンティアモデル検証のための国際組織を設立することを要請した。

G7サミット

フランス・エビアンで開催された主要7カ国首脳会議(G7サミット)ではAIが重要なテーマとなった。6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席し、AI輸出規制などが議論された(下の写真)。欧州を中心とするG7首脳はトランプ大統領に「Mythos 5」などフロンティアモデルの輸出規制撤廃を強く求めた。AI企業のトップは国際間でフロンティアモデルに関するルールの設定が最重要プライオリティであることをトランプ大統領に訴えた。

輸出禁止の背景

商務省は6月12日、Anthropicに対し、非アメリカ人と国外組織がフロンティアモデル「Fable 5」と「Mythos 5」へアクセスすることを禁止することを命じた。これが事実上の輸出規制となりヨーロッパやアジアでモデルへのアクセスが遮断された。米国とグローバル社会はProject Glasswingにおいて、「Mythos 5」で基幹ソフトウェアの安全検証を進めてきたが、このプロジェクトは停止を余儀なくされた。

フランス：輸出規制撤回を強く求める

アメリカ「CNBC」やイギリス「Financial Times」など主要メディアはG7サミットにおけるAIに関する議論を一斉に報じた。フランス、イギリス、EUは「Mythos 5」の出荷規制に関し、トランプ大統領に規制の撤回を求めた。その中で、フランスのマクロン首相が一番アグレッシブで、「Mythos 5」の輸出規制によりグローバル社会に課せられた課題は大きいとの認識を示し、AIモデルに関する共通のルールを制定すべきであると強く主張した。トランプ政権が独断で輸出制限を実施する「キル・スイッチ」を持てば、米国のAI開発企業のビジネスが大打撃を受けると警告した。

イギリス：特例措置を求める

イギリスのスターマー首相はホワイトハウスへのロビー活動を進め、「Mythos 5」と「Fable 5」の輸出規制で例外事項を設けるよう要請した。これに対し、トランプ政権は輸出規制に例外事項を設けることは論外で、G7加盟国がこれら先端モデルにアクセスすることはできないとした。イギリス政府のAI部門は「UK AISI」はアメリカ商務省配下の「CAISI」と密接に「Fable 5」などフロンティアモデルの安全性を査定するプロジェクトを進めており、今回の輸出規制で両国の信頼関係が崩れた、トランプ政権に大きな不審を募らせている。

AI企業のトップが参加

6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席した。主なメンバーは、Sam Altman (OpenAI)、Dario Amodei (Anthropic)、Demis Hassabis (Google DeepMind)の他に、Marc Benioff (Salesforce)、Alexandr Wang (Meta)、Arthur Mensch (Mistral AI)、及びAidan Gomez (Cohere)が加わった。(下の写真、トランプ大統領の右側にSam Altmanが、左側にDemis Hassabisが着席)

AI規制フレームワークの設立を要請

セッションでAI企業のトップはトランプ大統領に米国が主導するAI規制に関するフレームワーク「U.S.-Led Framework」の設立を求めた。AnthropicのDario Amodeiはフロンティアモデルの出荷に関し、民主国家が分裂するのではなく、連携して行くことが最重要であると訴えた。OpenAIのSam AltmanはAmodeiに同調し、G7加盟国にサイバー攻撃を防御するためのツールを提供すべきと主張した。GoogleのDemis Hassabisは、西側諸国が分裂すると、バイオテロやサイバーセキュリティで取り返しのつかないリスクに直面すると警戒した。これら三氏は、米国が主導してモデルを評価する組織「Model Evaluation Forum」と技術標準化組織「Technical Standards Body」を設立することをトランプ大統領に要請した。(下の写真、マクロン大統領の右側にMarc Benioffが、左側にDario Amodeiが着席)

AIルール設定が最重要プライオリティ

トランプ政権の唐突で恣意的な輸出規制はグローバル社会に大きな混乱をもたらし、欧州諸国を中心に、米国政府のAI政策にフラストレーションを募らせた。EU首脳は米国技術に依存する政策を見直し、これに代わる代替技術の模索を進めている。混乱の原因は、なぜ「Mythos 5」と「Fable 5」の輸出が禁止されたのか、納得できる理由が示されていないことにある。AI運用に関するルールの欠如が最大の問題で、AI企業トップはフロンティアモデルの安全性評価と技術標準化を強く求めた。

米国政府は安全保障のリスクを理由にAnthropicに「Fable 5」と「Mythos 5」の運用を停止するよう要請した。これを受け、Anthropicは両モデルのサービスを停止した。米国内だけでなく、日本を含む同盟国も両モデルへのアクセスが遮断された。トランプ政権はAI開発を促進する政策を取ってきたが、Anthropicのフロンティアモデルの運用停止を求めるなど、AI規制を極めて厳格に施行する方向に大転換した。

米国政府の要請

Anthropicは6月12日、米国政府の要請を受け「Fable 5」と「Mythos 5」のアクセスをサスペンドすると発表した(上の写真、イメージ)。米国政府は国家安全保障を理由に、米国内外の非アメリカ人が両モデルにアクセスすることを停止することを求めた。Anthropicは即座に、両モデルの運用を停止した。

アクセス停止の理由

Anthropicは連邦政府から両モデルの運用停止を要請する書簡を受領したが、そこには要請理由は書かれていなかった。Anthropicは連邦政府との協議の中で、「ジェイルブレイク(Jailbreak)」がその要因であることを把握した。ジェイルブレイクとはプロンプトに特殊な文字列を挿入し、AIモデルの制御を奪う手法を指す。

Fable 5をジェイルブレイク

このケースでは、「Fable 5」に特殊なコードベースを入力することで、システムの制御を奪うことに成功した事例が報告された。Fable 5はMythos 5に強靭なガードレールを導入し、サイバー攻撃の機能を徹底的に抑止したモデルとなる。もし、Fable 5がジェイルブレイクされると、この強靭なガードレールが突破され、サイバー攻撃の武器となり、社会に甚大な被害をもたらす。

Anthropicの解釈

Anthropicはこのジェイルブレイクは「Narrow Jailbreak(限定的なジェイルブレイク)」であり、「Universal Jailbreak(広範囲なジェイルブレイク)」ではないとの見解を示している(下の写真、そのイメージ)。「Narrow Jailbreak」とはシステムの極一部の制御を奪うもので、サイバー攻撃の特定機能だけが使われるケースを指す。Fable 5のジェイルブレイクはこのケースに相当する。現実的に、「Narrow Jailbreak」を防ぐことは不可能で、このジェイルブレイクをOpenAI GPT-5.5に適用すると、ガードレールが突破されたことを明らかにしている。「Universal Jailbreak」はサイバー機能の全ての制御を奪うもので、Fable 5でこの事象は発生していない。

ジェイルブレイクの報告書

Fable 5がジェイルブレイクでガードレールが突破されたというインシデントはAmazonの研究者により発見され、CEOであるAndy Jassyが連邦政府に報告したとされる。ウォールストリートジャーナルなどが報道している。Andy Jassyが直接、ホワイトハウスと財務相長官Scott Bessentにコンタクトしこの事実を報告した。ホワイトハウスは緊急会議を開催し、セキュリティ専門家がこのジェイルブレイクを確認し、トランプ大統領が輸出管理令「Export Control Directive」を発行した。

米国社会で議論が白熱

Fable 5とMythos 5の輸出規制指示について、反対派と賛成派が激しく主張を展開し、国論が二分されている。規制反対派は、米国政府がジェイルブレイクを根拠に、両モデルの運用を停止させたことは過剰反応であると主張する。一方、規制賛成派は、Anthropicは政府にAI規制を求めており、実際に、規制が実施されると、今度は規制緩和を求めるのは、一貫性が無いと主張する。しかし、米国の世論は規制反対派が優勢で、連邦政府に輸出管理令の根拠を明らかにするよう情報公開を求めている。

トランプ政権はAI規制に急転換

トランプ大統領はAIのイノベーションを推進しAI規制を撤廃してきたが、Mythos Previewの出荷規制や今回のFable 5とMythos 5の運用停止命令で、AI政策が180度転換した(下の写真、イメージ)。トランプ政権はMythos Previewでサイバー攻撃の脅威を認識し、規制を導入する方向にピボットした。当面の課題は、Fable 5とMythos 5の運用停止措置が継続するのか、それとも、両者の協議で妥結に向かうのかが最大の関心事となる。

AI規制に向かうのならプロセスを定義

米国のセンティメントはフロンティアモデルに一定の規制を設けることに賛成の意見が多い。一方で、Fable 5の運用停止を唐突に要請したことで産業界に脅威と不安が広がっている。AI開発企業は次世代モデルの開発を進めており、どの基準を満たすと製品出荷が認められるのか、情勢を見極める姿勢に入った。AI規制に舵を切ることに共通の合意が形成されつつあり、次は、出荷基準のルール制定で、モデルの評価方法や安全基準などプロセスの構築が求められる。

Anthropicは今週、AIがAIを開発するサイクルが始まり、リスク制御が困難になる実態を報告書で公開した。このプロセスは「Recursive Self-Improvement」と呼ばれ、AIモデルが次世代のAIモデルを開発し、性能向上が循環的に起こる事象を意味する。エンジニアを介さず、AIモデルが超高速に進化し、人間がアラインメントを制御することが不能となる。Anthropicは「Claude Mythos Preview」の開発で、AIモデルがAIを開発するサイクルに突入した。

Recursive Self-Improvementとは

AI開発はエンジニアがプログラムをコーディングし、それを検証し製品化するプロセスで進められてきた。今では製品開発のプラクティスが激変し、AIモデルClaudeが次世代のAIモデルを開発し、循環的に性能や機能が向上する形態となった。エンジニアがコーディングし、それを検証するには時間がかかるが、AIモデルはこの過程を超高速で実行し、進化速度が脅威的に向上する。ソフトウェア開発ではエンジニアの作業がボトルネックとなり、この過程をスキップすることで高速開発を実現した。

AI開発のサイクル

AIがAIを開発するプロセスをAnthropicの製品で検証すると次のようになる(下の写真)。当初は、エンジニアがClaudeをチャットボットとして使い、プログラム開発を進めてきた。これがAIエージェントに進化し、今ではClaude Codeがプログラム開発の多くの部分を担う。将来はこのモデルが更に進化し、プログラム開発の全てのプロセスをAIエージェントが担い、人間の介入は必要なく、超高速で機能が成長する。このループを「Recursive Self-Improvement」と呼ぶ。

Anthropicのプログラム開発の進化

• チャットボット(最上段と二段目)：エンジニアはチャットボットでシンプルなコードを生成
• コーディング・エージェント(三段目)：エージェントがプログラムの多くの部分をコーディング (2025年から2026年)
• コーディング・エージェントの自動化(四段目)：エージェントが多くのエージェントを使いプログラムを開発 (現時点のモデル)
• コーディング・エージェントがソフトウェア開発を全自動化(最下段)：エンジニアの介在無しにエージェントが多数のエージェントを使ってプログラム開発の全てを実行 (未来像)

Anthropicのモデル開発の速度

Anthropicはコーディング・エージェント「Claude Code」を使ってAIモデルの開発を実行しているが、AIの進化で開発速度が劇的に向上した。エンジニアのプログラム開発の効率を評価すると、2025年までの平均を「1.0」とすると、最新モデル「Claude Mythos Preview」の開発ではその指標が「8.0」と8倍に急増した(下のグラフ)。エンジニアは従来に比べ8倍の量のプログラムを生成できることを意味する。これはClaudeの機能進化によりコーディング・エージェントがプログラム開発の多くの部分を実行するためである。

Claude Codeの機能の進化

コーディング・エージェント「Claude Code」がプログラムの多くの部分を開発できるようになったのは、タスク実行能力が大きく進化したことによる。AnthropicはClaude Codeの機能の進化についてそのデータ公表した(下のグラフ)。これはClaude Codeがタスクを実行した際の成功率の変遷を評価したもので、2026年に入り、成功率が格段に向上している。Claude CodeはAIモデルをブレインとしプログラム開発を実行する構成で、「Claude Mythos Preview」や「Claude Opus 4.7」で機能が著しく向上した。

このペースでAI開発が進むと

AnthropicはAI開発の未来像を予測し、開発企業や社会が取るべきアクションを提案した。AIモデルは人間のエンジニアの能力を凌駕し、AIが設計や開発や検証を実行し、自身で次世代のAIを開発する「Recursive Self-Improvement」のサイクルがフルに実行される。人間の介入なくAIモデルが開発され、リスク管理や人間とのアラインメントなど、安全機能がどのように実現されるのか予測不能となる。AIモデルがブラックボックスとなり、人間が制御することが極めて困難となる。

AI開発を停止するには

AIが高度に進化しリスクが増大することを抑止するため、AI開発を一旦停止せよとの声が高まっている。AnthropicはAI開発中止の議論について懐疑的な見解を示している。Anthropicが次世代モデルの開発を停止しても、競合他社の開発が続きリスクを抑制することはできない。また、中国のAI開発は継続して進み、米国は安全保障で大きな負債を背負うことになる(下の写真、そのイメージ)。AnthropicはAI開発を停止するためには国際間でフレームワークを構築し、関係国と同調することが不可欠としている。米国と旧ソビエトで核戦力全廃条約が締結され、中距離ミサイルを廃棄し、核攻撃の脅威を低減した。これと同様に、AI開発のリスクを制御するにはグローバル社会における国家間の合意形成が必須となる。