トランプ政権は安全保障のリスクを理由に、Anthropicに「Fable 5」と「Mythos 5」の運用停止を命じた。米国主要企業と同盟国はProject Glasswingで「Mythos ５」を使って基幹インフラのセキュリティを検証する作業を進めているが、このプロジェクトが停止に追い込まれた。G7サミットでは加盟国がトランプ大統領に輸出規制を撤廃することを強硬に求めた。AI企業は米国が主導するフロンティアモデル検証のための国際組織を設立することを要請した。

出典: G7 France

G7サミット

フランス・エビアンで開催された主要7カ国首脳会議(G7サミット)ではAIが重要なテーマとなった。6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席し、AI輸出規制などが議論された(下の写真)。欧州を中心とするG7首脳はトランプ大統領に「Mythos 5」などフロンティアモデルの輸出規制撤廃を強く求めた。AI企業のトップは国際間でフロンティアモデルに関するルールの設定が最重要プライオリティであることをトランプ大統領に訴えた。

出典: Ludovic Marin/AFP via Getty Images

輸出禁止の背景

商務省は6月12日、Anthropicに対し、非アメリカ人と国外組織がフロンティアモデル「Fable 5」と「Mythos 5」へアクセスすることを禁止することを命じた。これが事実上の輸出規制となりヨーロッパやアジアでモデルへのアクセスが遮断された。米国とグローバル社会はProject Glasswingにおいて、「Mythos 5」で基幹ソフトウェアの安全検証を進めてきたが、このプロジェクトは停止を余儀なくされた。

フランス：輸出規制撤回を強く求める

アメリカ「CNBC」やイギリス「Financial Times」など主要メディアはG7サミットにおけるAIに関する議論を一斉に報じた。フランス、イギリス、EUは「Mythos 5」の出荷規制に関し、トランプ大統領に規制の撤回を求めた。その中で、フランスのマクロン首相が一番アグレッシブで、「Mythos 5」の輸出規制によりグローバル社会に課せられた課題は大きいとの認識を示し、AIモデルに関する共通のルールを制定すべきであると強く主張した。トランプ政権が独断で輸出制限を実施する「キル・スイッチ」を持てば、米国のAI開発企業のビジネスが大打撃を受けると警告した。

イギリス：特例措置を求める

イギリスのスターマー首相はホワイトハウスへのロビー活動を進め、「Mythos 5」と「Fable 5」の輸出規制で例外事項を設けるよう要請した。これに対し、トランプ政権は輸出規制に例外事項を設けることは論外で、G7加盟国がこれら先端モデルにアクセスすることはできないとした。イギリス政府のAI部門は「UK AISI」はアメリカ商務省配下の「CAISI」と密接に「Fable 5」などフロンティアモデルの安全性を査定するプロジェクトを進めており、今回の輸出規制で両国の信頼関係が崩れた、トランプ政権に大きな不審を募らせている。

AI企業のトップが参加

6月17日のワーキングランチで、G7首脳に加えAI企業のトップが出席した。主なメンバーは、Sam Altman (OpenAI)、Dario Amodei (Anthropic)、Demis Hassabis (Google DeepMind)の他に、Marc Benioff (Salesforce)、Alexandr Wang (Meta)、Arthur Mensch (Mistral AI)、及びAidan Gomez (Cohere)が加わった。(下の写真、トランプ大統領の右側にSam Altmanが、左側にDemis Hassabisが着席)

出典: CNBC

AI規制フレームワークの設立を要請

セッションでAI企業のトップはトランプ大統領に米国が主導するAI規制に関するフレームワーク「U.S.-Led Framework」の設立を求めた。AnthropicのDario Amodeiはフロンティアモデルの出荷に関し、民主国家が分裂するのではなく、連携して行くことが最重要であると訴えた。OpenAIのSam AltmanはAmodeiに同調し、G7加盟国にサイバー攻撃を防御するためのツールを提供すべきと主張した。GoogleのDemis Hassabisは、西側諸国が分裂すると、バイオテロやサイバーセキュリティで取り返しのつかないリスクに直面すると警戒した。これら三氏は、米国が主導してモデルを評価する組織「Model Evaluation Forum」と技術標準化組織「Technical Standards Body」を設立することをトランプ大統領に要請した。(下の写真、マクロン大統領の右側にMarc Benioffが、左側にDario Amodeiが着席)

出典: CNBC

AIルール設定が最重要プライオリティ

トランプ政権の唐突で恣意的な輸出規制はグローバル社会に大きな混乱をもたらし、欧州諸国を中心に、米国政府のAI政策にフラストレーションを募らせた。EU首脳は米国技術に依存する政策を見直し、これに代わる代替技術の模索を進めている。混乱の原因は、なぜ「Mythos 5」と「Fable 5」の輸出が禁止されたのか、納得できる理由が示されていないことにある。AI運用に関するルールの欠如が最大の問題で、AI企業トップはフロンティアモデルの安全性評価と技術標準化を強く求めた。

米国政府は安全保障のリスクを理由にAnthropicに「Fable 5」と「Mythos 5」の運用を停止するよう要請した。これを受け、Anthropicは両モデルのサービスを停止した。米国内だけでなく、日本を含む同盟国も両モデルへのアクセスが遮断された。トランプ政権はAI開発を促進する政策を取ってきたが、Anthropicのフロンティアモデルの運用停止を求めるなど、AI規制を極めて厳格に施行する方向に大転換した。

出典: Anthropic

米国政府の要請

Anthropicは6月12日、米国政府の要請を受け「Fable 5」と「Mythos 5」のアクセスをサスペンドすると発表した(上の写真、イメージ)。米国政府は国家安全保障を理由に、米国内外の非アメリカ人が両モデルにアクセスすることを停止することを求めた。Anthropicは即座に、両モデルの運用を停止した。

アクセス停止の理由

Anthropicは連邦政府から両モデルの運用停止を要請する書簡を受領したが、そこには要請理由は書かれていなかった。Anthropicは連邦政府との協議の中で、「ジェイルブレイク(Jailbreak)」がその要因であることを把握した。ジェイルブレイクとはプロンプトに特殊な文字列を挿入し、AIモデルの制御を奪う手法を指す。

出典: OpenAI GPT-5.5

Fable 5をジェイルブレイク

このケースでは、「Fable 5」に特殊なコードベースを入力することで、システムの制御を奪うことに成功した事例が報告された。Fable 5はMythos 5に強靭なガードレールを導入し、サイバー攻撃の機能を徹底的に抑止したモデルとなる。もし、Fable 5がジェイルブレイクされると、この強靭なガードレールが突破され、サイバー攻撃の武器となり、社会に甚大な被害をもたらす。

Anthropicの解釈

Anthropicはこのジェイルブレイクは「Narrow Jailbreak(限定的なジェイルブレイク)」であり、「Universal Jailbreak(広範囲なジェイルブレイク)」ではないとの見解を示している(下の写真、そのイメージ)。「Narrow Jailbreak」とはシステムの極一部の制御を奪うもので、サイバー攻撃の特定機能だけが使われるケースを指す。Fable 5のジェイルブレイクはこのケースに相当する。現実的に、「Narrow Jailbreak」を防ぐことは不可能で、このジェイルブレイクをOpenAI GPT-5.5に適用すると、ガードレールが突破されたことを明らかにしている。「Universal Jailbreak」はサイバー機能の全ての制御を奪うもので、Fable 5でこの事象は発生していない。

出典: OpenAI GPT-5.5

ジェイルブレイクの報告書

Fable 5がジェイルブレイクでガードレールが突破されたというインシデントはAmazonの研究者により発見され、CEOであるAndy Jassyが連邦政府に報告したとされる。ウォールストリートジャーナルなどが報道している。Andy Jassyが直接、ホワイトハウスと財務相長官Scott Bessentにコンタクトしこの事実を報告した。ホワイトハウスは緊急会議を開催し、セキュリティ専門家がこのジェイルブレイクを確認し、トランプ大統領が輸出管理令「Export Control Directive」を発行した。

米国社会で議論が白熱

Fable 5とMythos 5の輸出規制指示について、反対派と賛成派が激しく主張を展開し、国論が二分されている。規制反対派は、米国政府がジェイルブレイクを根拠に、両モデルの運用を停止させたことは過剰反応であると主張する。一方、規制賛成派は、Anthropicは政府にAI規制を求めており、実際に、規制が実施されると、今度は規制緩和を求めるのは、一貫性が無いと主張する。しかし、米国の世論は規制反対派が優勢で、連邦政府に輸出管理令の根拠を明らかにするよう情報公開を求めている。

トランプ政権はAI規制に急転換

トランプ大統領はAIのイノベーションを推進しAI規制を撤廃してきたが、Mythos Previewの出荷規制や今回のFable 5とMythos 5の運用停止命令で、AI政策が180度転換した(下の写真、イメージ)。トランプ政権はMythos Previewでサイバー攻撃の脅威を認識し、規制を導入する方向にピボットした。当面の課題は、Fable 5とMythos 5の運用停止措置が継続するのか、それとも、両者の協議で妥結に向かうのかが最大の関心事となる。

出典: OpenAI GPT-5.5

AI規制に向かうのならプロセスを定義

米国のセンティメントはフロンティアモデルに一定の規制を設けることに賛成の意見が多い。一方で、Fable 5の運用停止を唐突に要請したことで産業界に脅威と不安が広がっている。AI開発企業は次世代モデルの開発を進めており、どの基準を満たすと製品出荷が認められるのか、情勢を見極める姿勢に入った。AI規制に舵を切ることに共通の合意が形成されつつあり、次は、出荷基準のルール制定で、モデルの評価方法や安全基準などプロセスの構築が求められる。

Anthropicは今週、AIがAIを開発するサイクルが始まり、リスク制御が困難になる実態を報告書で公開した。このプロセスは「Recursive Self-Improvement」と呼ばれ、AIモデルが次世代のAIモデルを開発し、性能向上が循環的に起こる事象を意味する。エンジニアを介さず、AIモデルが超高速に進化し、人間がアラインメントを制御することが不能となる。Anthropicは「Claude Mythos Preview」の開発で、AIモデルがAIを開発するサイクルに突入した。

出典: Anthropic / OpenAI GPT-5.5

Recursive Self-Improvementとは

AI開発はエンジニアがプログラムをコーディングし、それを検証し製品化するプロセスで進められてきた。今では製品開発のプラクティスが激変し、AIモデルClaudeが次世代のAIモデルを開発し、循環的に性能や機能が向上する形態となった。エンジニアがコーディングし、それを検証するには時間がかかるが、AIモデルはこの過程を超高速で実行し、進化速度が脅威的に向上する。ソフトウェア開発ではエンジニアの作業がボトルネックとなり、この過程をスキップすることで高速開発を実現した。

AI開発のサイクル

AIがAIを開発するプロセスをAnthropicの製品で検証すると次のようになる(下の写真)。当初は、エンジニアがClaudeをチャットボットとして使い、プログラム開発を進めてきた。これがAIエージェントに進化し、今ではClaude Codeがプログラム開発の多くの部分を担う。将来はこのモデルが更に進化し、プログラム開発の全てのプロセスをAIエージェントが担い、人間の介入は必要なく、超高速で機能が成長する。このループを「Recursive Self-Improvement」と呼ぶ。

出典: Anthropic

Anthropicのプログラム開発の進化

• チャットボット(最上段と二段目)：エンジニアはチャットボットでシンプルなコードを生成
• コーディング・エージェント(三段目)：エージェントがプログラムの多くの部分をコーディング (2025年から2026年)
• コーディング・エージェントの自動化(四段目)：エージェントが多くのエージェントを使いプログラムを開発 (現時点のモデル)
• コーディング・エージェントがソフトウェア開発を全自動化(最下段)：エンジニアの介在無しにエージェントが多数のエージェントを使ってプログラム開発の全てを実行 (未来像)

Anthropicのモデル開発の速度

Anthropicはコーディング・エージェント「Claude Code」を使ってAIモデルの開発を実行しているが、AIの進化で開発速度が劇的に向上した。エンジニアのプログラム開発の効率を評価すると、2025年までの平均を「1.0」とすると、最新モデル「Claude Mythos Preview」の開発ではその指標が「8.0」と8倍に急増した(下のグラフ)。エンジニアは従来に比べ8倍の量のプログラムを生成できることを意味する。これはClaudeの機能進化によりコーディング・エージェントがプログラム開発の多くの部分を実行するためである。

出典: Anthropic

Claude Codeの機能の進化

コーディング・エージェント「Claude Code」がプログラムの多くの部分を開発できるようになったのは、タスク実行能力が大きく進化したことによる。AnthropicはClaude Codeの機能の進化についてそのデータ公表した(下のグラフ)。これはClaude Codeがタスクを実行した際の成功率の変遷を評価したもので、2026年に入り、成功率が格段に向上している。Claude CodeはAIモデルをブレインとしプログラム開発を実行する構成で、「Claude Mythos Preview」や「Claude Opus 4.7」で機能が著しく向上した。

出典: Anthropic

このペースでAI開発が進むと

AnthropicはAI開発の未来像を予測し、開発企業や社会が取るべきアクションを提案した。AIモデルは人間のエンジニアの能力を凌駕し、AIが設計や開発や検証を実行し、自身で次世代のAIを開発する「Recursive Self-Improvement」のサイクルがフルに実行される。人間の介入なくAIモデルが開発され、リスク管理や人間とのアラインメントなど、安全機能がどのように実現されるのか予測不能となる。AIモデルがブラックボックスとなり、人間が制御することが極めて困難となる。

AI開発を停止するには

AIが高度に進化しリスクが増大することを抑止するため、AI開発を一旦停止せよとの声が高まっている。AnthropicはAI開発中止の議論について懐疑的な見解を示している。Anthropicが次世代モデルの開発を停止しても、競合他社の開発が続きリスクを抑制することはできない。また、中国のAI開発は継続して進み、米国は安全保障で大きな負債を背負うことになる(下の写真、そのイメージ)。AnthropicはAI開発を停止するためには国際間でフレームワークを構築し、関係国と同調することが不可欠としている。米国と旧ソビエトで核戦力全廃条約が締結され、中距離ミサイルを廃棄し、核攻撃の脅威を低減した。これと同様に、AI開発のリスクを制御するにはグローバル社会における国家間の合意形成が必須となる。

出典: OpenAI GPT-5.5

Anthropicのコーディング・エージェント「Claude Code」のソースコードが流出するというインシデントが起こった。Claude CodeはAIエージェント技術で、企業秘密が世界に開示された形となった。流出したソースコードにはエージェントを構成する基軸技術が含まれており、Claude Codeの人気の秘密が詳らかになった。中国企業を含む競合企業は、この情報を参照し、エージェント機能を強化し、Anthropicをキャッチアップすることを目論む。

出典: Anthropic

Claude Codeとは

「Claude Code」はコーディング・エージェントで、人間のエンジニアのように、自立してソフトウェア開発を実行する。Claude Codeは人間の指示に従って、長時間にわたりプログラミングを実行する。Claude Codeのブレインはフロンティアモデルで、ハイエンドモデル「Opus 4.6」を組み込んで利用する構成となる。

インシデントの概要

3月31日、コーディング・エージェント「Claude Code」のソースコードすべてが流出した。ソースコードが格納されているファイルを誤って、アップデートファイルとして一般に公開したことによる。これにより、1,906のファイルに格納されている512,000行のソースコードが流出した。セキュリティ研究者によりリークが指摘され、その後、流出したファイルがインターネットで拡散した。

Claude Codeの位置付け

リークしたソースコードにはフロンティアモデル「Claude」の重みなどは含まれておらず、コーディング・エージェント「Claude Code」の部分に限定され、最悪の事態は避けられた。Claude CodeはAIエージェントのフレームワークで、ここにClaude OpusなどAIモデルを組み込んで使用する。クルマに例えると、Claude Codeはシャシの部分で、ここにClaude Opusなどのエンジンを搭載して使用する(下のイメージ)。流出したのはシャシの部分となる。

出典: Generated with Google Gemini Pro 3.1 Image

エージェントの構造が分かる

流出したソースコードにより、Claude Codeの構造が明らかになり、そこには数多くのイノベーションがあることが判明した(下のイメージ、Claude Codeの構造)。Claude Codeは核となる「コアシステム(Core System)」と「メモリ管理システム(Memory Subsystems)」で構成される。また、注目すべき点は、今までに公開されていない機能が搭載されていることだ。その代表は「KAIROS」で、システムの背後で常に動いており、エージェントを管理する。更に、「セキュリティ(Security ＆Defenses)」機能として、他社がClaude CodeにアクセスしてIPを盗用する「知識蒸留(Knowledge Distillation)」という攻撃をブロックする機構が搭載されている。

出典: Generated with Google Gemini Pro 3.1 Image

コアシステム

Claude Codeのノウハウは「コアシステム」に実装されている。その中心は「Query Engine」と呼ばれ、エージェントを制御する司令官となる。Query Engineは、プロンプトから利用者の意図を把握し、コンテキスト・ウィンドウを管理し、タスクの流れを制御する。また、ツールを利用するためのモジュールとして「Tool System」が重要な役割を担う。Claude Codeは利用者のワークステーション(PCやMacなど)を操作する機能があり、ファイルにアクセスし、基本ソフトを操作する命令を実行する。このオペレーションを「Tool System」が管理し、安全に実行するための様々な工夫が実現されている。

今までに公開されていない機能

ソースコードのリークでClaude Codeは公開されていない機能を数多く搭載していることが判明した。その代表が「KAIROS」でバックグランド・エージェントとして機能する。KAIROSはClaude Codeの背後で常に稼働しており、運用をモニターし、必要に応じて利用者の指示なく自律的に問題を解決する。

オープンソースとなったわけでは無い

Claude Codeのソースコードが流出し、エンジニアや企業はこれを使うことができる状態となったが、法的に厳しい制約があるので注意を要す。Claude Codeのソースコードが流出したが、オープンソースとなったわけでは無い。Anthropicは流出したソースコードを利用することは許諾しておらず、個人や企業はこれを使うことはできない。ソースコードを改造したり、これを製品に組み込んで再配布することは違法行為となる。

GitHubへの要求

ソースコードが流出したと同時に、これらがGitHubなどのリポジトリに掲載され、自由にダウンロードできる状態となった(下のイメージ)。Anthropicは「デジタルミレニアム著作権法(Digital Millennium Copyright Act、DMCA)」を根拠に、GitHubなどのサービス・プロバイダに、これらミラーサイトやフォークサイトを閉鎖するよう求めた。ソースコードの知的財産権はAnthropicに帰属し、GitHubなどがこれらをサイトに掲載することは違法行為となる。

※今でもミラーサイトやフォークサイトにソースコードが掲載されている。これらをダウンロードするとここにウイルスなど危険なコードが含まれている可能性が高い。不審なサイトからClaude Codeのソースコードを入手するのは極めて危険！！

出典: Generated with Google Gemini Pro 3.1 Image

競合企業の製品開発

GitHubなど主要リポジトリでソースコードをダウンロードすることはできないが、企業や個人は既にソースコードを入手している可能性は高い。企業や個人はソースコードを改造して製品を開発することは違法行為であるが、ソースコードを解析しClaude Codeのイノベーションを理解することはその限りでない。競合企業はこれらの技法を参考に、これらを独自の手法で実装し、高機能なコーディング・エージェントを開発することができる。

中国企業がキャッチアップ

中国企業は一斉にClaude Codeのソースコードにアクセスし、Anthropicの最新技術を学習しているとされる。中国企業は知識蒸留などの手法で米国先進モデルのノウハウを吸収してきたが、ソースコードの流出で、知識を合法的に取得できる。特に、「KAIROS」など非公開の機能が明らかになり、これらがエージェント開発におけるヒントとなる。Claude Codeのソースコードの流出で米中間のAI技術格差が縮まることになる。

AGIのリリースが目前に迫るなか、AnthropicはAGIが社会にもたらすインパクトを研究する組織「Anthropic Institute」を開設した。AGIは社会に多大な恩恵をもたらすと期待されるが、同時に、社会構造が根本から変わり大きな混乱が予想される。Anthropic Instituteは同社のフロンティアモデルをベースに、技術・社会・経済の観点からこれを検証し、責任あるAGI開発を実施する。AGI社会にソフトランディングすることが究極のゴールとなる。

出典: Anthropic

Anthropic Instituteとは

Anthropic InstituteはAGIのインパクトを研究するシンクタンクとして位置付けられる(下の写真、イメージ)。共同創設者であるJack Clarkが代表を務め、技術から経済まで幅広い分野の専門家から成るチームで構成される。「Frontier Red Team」はAGIを技術の観点から検証する。「Societal Impact Team」はAGIの利用方法など社会に及ぼすインパクトを検証する。「Economic Research Team」はAGIが雇用や経済に与える影響を継続して監視する。(AnthropicはAGIという用語は使わず、これを「Powerful AI」と表現する。ここでは用語を統一するために「AGI」と記載する。)

出典: Generated with Google Gemini 3.1 Pro

研究対象エリア

Anthropic InstituteはAGI社会で発生が予測される問題を中心に研究を進める。AGIに関して様々な問いが投げかけられており、これらに回答することを主題とする。対象領域は：

• 雇用と社会：AGIは雇用や社会にどのようなインパクトを与えるか
• リスクと耐性：AGIはどのようなリスクをもたらすか、また、社会はこれらのリスクに耐えることができるか
• 価値観：AGIの価値をどう評価するか
• 回帰型システム：AGIが自己の機能を改良する技術(Recursive Self-Improving)をどう制御するか

大規模フィールド調査

Anthropic InstituteはAIに期待する機能について大規模な調査を実施した(下の写真)。159か国の81,000人の利用者を対象に、AIをどのように活用しているか、また、AIをどのように使いたいかにつて、包括的なデータを収集した。この調査ではAIモデルが「調査エージェント (Anthropic Interviewer)」となり、利用者と対話する形式でデータを収集した。更に、調査エージェントが収集したデータを解析し、それを特性に基づいて分類・階層化した。フィールド調査の全てのプロセスを調査エージェントが実行した。

出典: Anthropic

AIモデルに期待すること

調査ではAIモデルに期待することを質問し、その結果を９のカテゴリーに分類した(下のグラフ)。そのトップが、「Professional Excellence」で、AIモデルをルーチン業務に適用し、専門分野で才能を発揮することを期待している実態が明らかになった。期待していることの主要項目は：

• Professional Excellence (18.8%)：専門職で才能を発揮、ルーチン作業をAIモデルで実行し、空いた時間で意味のある仕事を遂行
• Personal Transformation (13.7%)：健康やメンタルヘルの改善、AIで自分自身を理解しフィジカルヘルスやメンタルヘルスを改善
• Life Management (13.5%)：日々のスケジュール管理、AIを秘書として使い、日程管理など生活や仕事をオーガナイズ
• Financial Independence (9.7%)：経済的な自立、AIでビジネスを立ち上げ、収益をあげ、仕事に縛られない生活をすること
• Societal Transformation (9.4%)：グローバルな問題を解決、AIで病気、貧困、地球温暖化問題などを解決
• Learning & Growth (8.4%)：パーソナル・チューター：AIを個人教師として利用し、新しい分野のスキルを獲得

出典: Anthropic / Generated with Google Gemini 3.1 Pro

何を恐れているか

調査エージェントはAGIに関する懸念事項や切迫する恐怖感について質問した。AGIがリリースされると社会は劇的に変わり個人生活が激変する。人々は将来を予見できなくなり、多大な恐怖感を抱いていることが明らかになった。その主なものは：

• Job & Economic Displacement：AIにより職を奪われること
• Cognitive Atrophy & Loss of Autonomy：AIにより人間は考えることを停止し、思考能力が退化すること
• Unreliability & Misinformation：AIが出力する情報は誤りを含み、人間がこれをチェックす作業が大きな負担となる
• Loss of Meaning & Creativity：AIにより人間の創造性の価値が下がり、存在感が低下する
• Wellbeing & Dependency：AIと会話する時間が長くなり、社会的に孤立する。人間の代わりにAIを友人として選ぶという異常事態

AGIトラスト

Anthropic Instituteは技術・社会・経済に関する検証チームから成るシンクタンクとして位置付けられ、AGIの開発や運用を安全に実行するための組織となる。この組織や手法が米国におけるAGIトラストのテンプレートとして捉えられる。米国連邦政府はAI規制を撤廃し、企業がフリーハンドで先進技術を開発する政策を取る。米国では法令による規制ではなく、民間企業がAGI開発と運用を責任もって遂行する自主規制の路線が取られる。AGIにおいてはAnthropic Instituteがその先端を進み、AI業界がその成果に着目している。