AI開発のペースが急進する技法「Recursive Self-Improvement (自己改良ループ)」とは、Anthropic Claudeが研究開発の26％を主導する

元Anthropicの研究者が、数年以内にAIが人類を絶滅させるとの警告メッセージを発信し、AI脅威論についての議論が世界各国で沸騰している。Anthropicは、最先端AI・フロンティアモデルの開発ペースを減速すべきかという議論を進めるためには、AI開発が実際にどれほどの速度で加速しているかを測定する「メトリックス(指標)」が必要であると主張する。Anthropicは、実際に社内におけるAI開発の速度を計測しそれを公開した。

出典: Generated with OpenAI GPT-5.6 Sol

AI開発の速度を計測する指標

Anthropicは、レポート「Measurements for understanding the pace of AI development inside frontier labs」を公開し、AI開発の速度を計測するための指標を提案した。この指標は三つのメトリックスで構成される：

Anthropicはこれら三つの指標を社内におけるAI開発に適用し、そのベンチマーク結果を公表した。

次世代AIの構築にAIがどれだけ寄与しているか

Anthropicは、AIによる研究開発の貢献度を「AL0(自動化なし)」から「AL5(完全自動化)」までの6つのレベルで定義し、社内の研究開発におけるAIの貢献度を評価した(下のグラフ)。2026年8月時点で、フロンティアモデルClaudeは、AI研究開発のタスクの26%を「Lead・主導」している(レベル＝AL4)。同年2月時点では1%未満であったが、からわずか半年で急増しており、AI開発の加速を裏付ける顕著なデータとなる。また、全体の70%以上のタスクにおいて、AIと人間が「Collaborates・共同作業」している(レベル＝AL3)。つまり、Anthropicにおいては、ほぼ100％の部分でClaudeがAI開発に大きく貢献している実態が明らかになった。

出典: Anthropic

AIエージェントがどれだけ効果的に制御されているか

Anthropicの社内研究開発プラットフォームでは、常時約30,000ユニットのAIエージェントが稼働している(下のイメージ)。Anthropicは、すべてのエージェントの行動の100%を、リアルタイムで監視している。この監視システムによって、AIエージェントの行動が実際にブロックされたケースは、全体の約0.002%に抑えられた。これは、AIエージェントが行う意思決定の約47,000回に1回の割合に相当する。Anthropicの開発者は自らがプログラムをコーディングするのではなく、AIエージェントに指示を与え、タスク実行の結果を評価する、プロジェクト・マネジャーの役割へと大転換した。

出典: Generated with OpenAI GPT-5.6 Sol 

機能開発と安全性開発の間で計算資源がどう割り当てられているか

Anthropicは、計算資源がフロンティアモデルの開発において、安全指標として非常に有用であると主張する。Anthropicにおいて、AIの研究開発で使用された計算資源のうち、約6%が「安全性(Safety)」に関するタスクで使われた。一方で。AIが主導して行うAI開発(AL4の部分)では、使用された計算資源の約12%が「安全性(Safety)」に関するタスクに割り当てられた。AIがAI自身を開発する領域においては、安全性の確保により高い比率(12%＝全体の2倍)の計算資源が割かれていることが判明した。

Dario Amodeiの主張との関係

これに先立ち、Dario Amodeiは論文「We Must Pace the Frontier」を発表し、性能の進化を意図的にスローダウンし、安全技術(アライメント、AIの仕組みの解明、検証技法、運用の安全対策)をキャッチアップさせるべきと提唱した(下のイメージ)。今回の報告書は、この提案を技術的に支えるもので、AI開発のスピードを理解するための測定基準を示したものとなる。同時に、これをAnthropicにおけるAI研究開発に適用し、「Recursive Self-Improvement」による技術開発のスピードアップを明らかにした。

出典: Generated with OpenAI GPT-5.6 Sol 

AIセーフティ開発へ全面的にシフト

この報告書でAnthropicにおける「Recursive Self-Improvement(自己改良ループ)」のレベルが明らかになった。Claudeは、既存の製品を改良しているだけでなく、次世代AIを生み出すプロセスへ本格的に参画し始めていることを示している。このペースで進むと、AI主導の開発(AL4)は2027年の後半に100％のレンジに到達する。また、全自動開発(AL5)のプロセスは、2026年後半に始まると予想される。AI開発のペースが加速度的に進み、AI開発のフレームワークを根本から見直す必要がある。AI開発においては、機能改良だけではなく、AIセーフティ開発に計算資源の大半を割り当て、安全性強化へ全面的にシフト(下のイメージ)する時期が到来した。

出典: Generated with OpenAI GPT-5.6 Sol