AIがAIを開発するサイクルが始動！！AnthropicでClaudeが次世代Claudeを開発、性能進化が急激でリスク制御が不能となる、開発を中止せよとの声が高まる

Anthropicは今週、AIがAIを開発するサイクルが始まり、リスク制御が困難になる実態を報告書で公開した。このプロセスは「Recursive Self-Improvement」と呼ばれ、AIモデルが次世代のAIモデルを開発し、性能向上が循環的に起こる事象を意味する。エンジニアを介さず、AIモデルが超高速に進化し、人間がアラインメントを制御することが不能となる。Anthropicは「Claude Mythos Preview」の開発で、AIモデルがAIを開発するサイクルに突入した。

出典: Anthropic / OpenAI GPT-5.5

Recursive Self-Improvementとは

AI開発はエンジニアがプログラムをコーディングし、それを検証し製品化するプロセスで進められてきた。今では製品開発のプラクティスが激変し、AIモデルClaudeが次世代のAIモデルを開発し、循環的に性能や機能が向上する形態となった。エンジニアがコーディングし、それを検証するには時間がかかるが、AIモデルはこの過程を超高速で実行し、進化速度が脅威的に向上する。ソフトウェア開発ではエンジニアの作業がボトルネックとなり、この過程をスキップすることで高速開発を実現した。

AI開発のサイクル

AIがAIを開発するプロセスをAnthropicの製品で検証すると次のようになる(下の写真)。当初は、エンジニアがClaudeをチャットボットとして使い、プログラム開発を進めてきた。これがAIエージェントに進化し、今ではClaude Codeがプログラム開発の多くの部分を担う。将来はこのモデルが更に進化し、プログラム開発の全てのプロセスをAIエージェントが担い、人間の介入は必要なく、超高速で機能が成長する。このループを「Recursive Self-Improvement」と呼ぶ。

出典: Anthropic

Anthropicのプログラム開発の進化

  • チャットボット(最上段と二段目)：エンジニアはチャットボットでシンプルなコードを生成
  • コーディング・エージェント(三段目)：エージェントがプログラムの多くの部分をコーディング (2025年から2026年)
  • コーディング・エージェントの自動化(四段目)：エージェントが多くのエージェントを使いプログラムを開発 (現時点のモデル)
  • コーディング・エージェントがソフトウェア開発を全自動化(最下段)：エンジニアの介在無しにエージェントが多数のエージェントを使ってプログラム開発の全てを実行 (未来像)

Anthropicのモデル開発の速度

Anthropicはコーディング・エージェント「Claude Code」を使ってAIモデルの開発を実行しているが、AIの進化で開発速度が劇的に向上した。エンジニアのプログラム開発の効率を評価すると、2025年までの平均を「1.0」とすると、最新モデル「Claude Mythos Preview」の開発ではその指標が「8.0」と8倍に急増した(下のグラフ)。エンジニアは従来に比べ8倍の量のプログラムを生成できることを意味する。これはClaudeの機能進化によりコーディング・エージェントがプログラム開発の多くの部分を実行するためである。

出典: Anthropic

Claude Codeの機能の進化

コーディング・エージェント「Claude Code」がプログラムの多くの部分を開発できるようになったのは、タスク実行能力が大きく進化したことによる。AnthropicはClaude Codeの機能の進化についてそのデータ公表した(下のグラフ)。これはClaude Codeがタスクを実行した際の成功率の変遷を評価したもので、2026年に入り、成功率が格段に向上している。Claude CodeはAIモデルをブレインとしプログラム開発を実行する構成で、「Claude Mythos Preview」や「Claude Opus 4.7」で機能が著しく向上した。

出典: Anthropic

このペースでAI開発が進むと

AnthropicはAI開発の未来像を予測し、開発企業や社会が取るべきアクションを提案した。AIモデルは人間のエンジニアの能力を凌駕し、AIが設計や開発や検証を実行し、自身で次世代のAIを開発する「Recursive Self-Improvement」のサイクルがフルに実行される。人間の介入なくAIモデルが開発され、リスク管理や人間とのアラインメントなど、安全機能がどのように実現されるのか予測不能となる。AIモデルがブラックボックスとなり、人間が制御することが極めて困難となる。

AI開発を停止するには

AIが高度に進化しリスクが増大することを抑止するため、AI開発を一旦停止せよとの声が高まっている。AnthropicはAI開発中止の議論について懐疑的な見解を示している。Anthropicが次世代モデルの開発を停止しても、競合他社の開発が続きリスクを抑制することはできない。また、中国のAI開発は継続して進み、米国は安全保障で大きな負債を背負うことになる(下の写真、そのイメージ)。AnthropicはAI開発を停止するためには国際間でフレームワークを構築し、関係国と同調することが不可欠としている。米国と旧ソビエトで核戦力全廃条約が締結され、中距離ミサイルを廃棄し、核攻撃の脅威を低減した。これと同様に、AI開発のリスクを制御するにはグローバル社会における国家間の合意形成が必須となる。

出典: OpenAI GPT-5.5