米国で社会の基幹を担うソフトウェアをAIエージェントで書き換え、システムをモダン化する構想が発表された。これは「Great Refactor」と呼ばれ、レガシー・システムを改修しセキュリティを強化することをミッションとする。米国政府や民間企業は古いシステムを汎用機の上で稼働し基幹業務を実行している。これらレガシー・コードはセキュリティに関し重大な脆弱性を内包しサイバー攻撃の標的になってきた。これらを人間に代わりAIエージェントが書き換えセキュアなシステムを生成する。

出典: Generated with Google Imagen 4

リファクタリングとは

リファクタリング(Refactoring)とはプログラムを書き換える技術で、その機能を変えることなく、コードを改良することで、プログラムをモダン化し、運用性を高める技法を意味する。また、コードを整理することで、読みやすさを増し、保守作業を容易にするために使われる。Great Refactorではセキュリティに重点を置き、古いコードが内包している脆弱性を補強することを目的とする。

レガシー・コードのリスク

レガシー・コードの多くはプログラム言語「C」や「C++」で記述されており、技術的な問題を含んでいる。その代表がメモリ(主記憶)管理機能で、「C」や「C++」で生成されたプログラムはメモリ操作でバグがあり、これがサイバー攻撃の標的となってきた。ランサムウェア「WannaCry」などがメモリ管理のバグをついてシステムに侵入し、システムを暗号化するなど社会に重大な被害をもたらした。

出典: Generated with Google Imagen 4

Great Refactorとは

Great Refactorは「C」や「C++」で開発されたコードを安全な言語「Rust」に書き換える構想となる。対象はオープンソース・ソフトウェアで、AIエージェントがリファクタリングの作業を担う。オープンソース・ソフトウェアは全米で幅広く使われており社会インフラを構成する。その代表が基本ソフト「Linux」で、そのカーネルは「C」で記述されている。また、Linuxの主要ライブラリも「C」で開発されている。例えば、通信暗号化プロトコール「OpenSSL」やリモートログイン「OpenSSH」が社会で幅広く使われているが、これらも「C」で記述されている。Great Refactorはこれらを「C」や「C++」言語から「Rust」言語に書き換える構想となる。

プロジェクトの概要

この構想はワシントンDCに拠点を置くシンクタンク「Institute of Progress」により提唱された。この提言によると、2030年までにレガシー・コードを書き換え、新たなシステムを開発する。新システムは1億ライン(1億行のコードから構成される)システムとなる。開発に要する費用は五年間で1億ドルとなり、これを政府と民間が共同で出資する。ソフトウェア・インフラが強化されることにより、20億ドルの支出を抑えることができると試算している。

AIエージェントの技術進化

ファウンデーションモデルの技術が急速に進化し、そのキラーアプリケーションはコーディング・エージェントという構図が明らかになってきた。AIエージェントが人間の指示に従ってアプリをコーディングする。AIがエンジニアに代わりソフトウェアを開発する時代に突入した。AI企業はコーディング機能を相次いでアップグレードし、Anthropicの「Claude Sonnet 4.5」がトップの性能を持つ。これをOpenAIの「GPT-5 Codex」が追う構図となる。Googleはコーディング・エージェントを製品化していないが、複雑なプログラミングを実行するモデル「AlphaCode」の研究開発を進めている。

出典: Generated with Google Imagen 4

COBOLレガシー

Great Refactorと並行して、政府機関や民間企業はレガシー・システムをモダン化する作業を進めている。これらのシステムはプログラム言語「COBOL」で書かれ、汎用機(Mainframe Computers)で稼働している。システムは50年以上前に開発され、古いアーキテクチャに準拠しており、新しい機能の追加や保守作業が極めて難しい。社会の基幹インフラはこれらレガシー・システムに構築され、基幹サービスをセキュアに安定して提供することが困難な状態が続いている。

レガシーシステムの事例

連邦政府は税金や年金の処理をCOBOLで書かれたレガシー・システムで実行している。また、民間企業では、銀行の基幹システムがレガシー・システムで構築され、負の資産を引きずっている。また、飛行機予約システム「Programmed Airline Reservations System」がCOBOLで記述され、そのシステムがIBMの汎用機の上で稼働している。米国では頻繁に航空機の運用管理や予約業務で障害が発生するが、その根本原因はCOBOLレガシー・システムにある。

出典: Generated with Google Imagen 4

ソフトウェア・インフラをリファクタリング

Great Refactorはオープンソース・ソフトウェアをAIエージェントで書き直しセキュアなシステムを構築するプロジェクトで、AIの進化でこれが実現可能な領域に入ってきた。同時に、米国では汎用機で稼働しているシステムをモダン化するプロジェクト「メインフレーム・リファクタリング(Mainframe Refactoring)」が進んでいる。汎用機で稼働しているレガシー・システムを書き換えてクラウドに移管するモデルで、AWSやGoogle CloudやMicrosoft Azureが推進している。コーディングAIエージェントの急速な進化で、米国のソフトウェア・インフラをリファクタリングする手法に注目が集まっている。

トランプ大統領令は6月6日、サイバーセキュリティを強化するための政策に関する大統領令(Executive Order)に署名した。大統領令はバイデン政権の大統領令を修正するかたちで制作され、過度な規制や義務を軽減し、サイバーセキュリティの基礎技術の開発を強化する。最大の脅威は中国とし、サイバー攻撃を防御するため技術開発に関するアクションを規定した。トランプ政権はサイバーセキュリティ政策についてバイデン政権の方針を大きく変更すると述べているが、実際に大統領令を読むと、技術開発については多くの部分を継承している。

出典: Getty Images

サイバーセキュリティ大統領令の概要

トランプ政権の大統領令(EO 13800)はオバマ政権の大統領令(EO 13694)とバイデン政権の大統領令(EO 14144)を修正する構造となっている。大統領令はサイバー攻撃への耐性を高めるために各省庁が取るべきタスクを定めている。対象は、ソフトウェア、AI、量子技術で、安全技術の開発を強化するためのアクション項目と開発スケジュールが規定された。特に、NIST(National Institute of Standards and Technology、国立標準技術研究所)が重要な役割を担い、このプロジェクトの中心組織となる。

出典: The White House

最大の脅威は中国

大統領令は中国(People’s Republic of China)が米国にとって最大の脅威になるとの認識を示している。中国が米国政府や民間企業に対し継続してサイバー攻撃を展開しており、最大の脅威となり、ロシア、イラン、北朝鮮がこれに続く。この情勢の下で、大統領令は国家のデジタルインフラやサービスを守るためのサイバーセキュリティ技術の開発を規定する。対象は、ソフトウェア、量子技術、AIシステムなどで、これらの分野で安全技術を強化するための具体的なアクションを定めている。

ソフトウェア

大統領令はセキュアなソフトウェアを開発するためのフレームワークの開発を規定している。このフレームワークは「Secure Software Development Framework」と呼ばれ、バイデン政権下で商務省配下のNISTが開発したもので、大統領令はこれをアップデートして機能を強化することを求めている。大統領令はアクションのスケジュールを定めており、フレームワークの初版を2025年12月1日にリリースし、その後120日以内に最終版を公開することを規定している。

量子技術

大統領令は量子コンピュータの登場に備え、暗号化技術を強化することを求めている。量子技術の開発が進み、量子コンピュータにより現在利用している暗号技術が破られることになる。この量子コンピュータは「cryptanalytically relevant quantum computer (CRQC)」と呼ばれ、暗号技術を強化する必要がある。既に、米国政府は量子コンピュータに耐性のある暗号技術「post-quantum cryptography (PQC)」の開発を進めている。大統領令はこの研究開発を強化し、安全技術の適用を推進するためのアクションを定めた。具体的には、2025年12月1日までにCISA(Cybersecurity and Infrastructure Security Agency、サイバーセキュリティ・社会基盤安全保障庁)を中心にPQCの製品カタログをアップデートし、連邦政府内でPQCの導入を推進する。

出典: NIST

AIシステム

大統領令はAIシステムのセキュリティを強化することを規定している。AIシステムはサイバー攻撃を防御するツールとなり、同時に、AIシステムがサイバー攻撃への耐性が低いという課題を抱えており、この二つの側面を強化するためのアクションを規定している。AIシステムはサイバー攻撃を検知するための有効な防衛技術で、大統領令は連邦政府の研究成果を大学研究機関に公開することを求めている。また、AIシステムはサイバー攻撃に対する脆弱性を含んでおり、この情報を省庁内で共有することでサイバーセキュリティを強化することを規定している。NISTなどが中心となり、これらのアクションを2025年11月1日までに完了する。

過度な負担の軽減

大統領令は同時に、サイバーセキュリティに関する過度な規制条項を削除した。その事例がデジタルIDで、バイデン政権はこの技術の開発普及を規定した。トランプ政権の大統領令はこの規定を削除し、このプロジェクトを停止した。デジタルIDとは電子証明システムで、運転免許証など証明書をデジタル化するプログラムとなる。具体的には、州政府がデジタルな運転免許証を発行するプログラムを支援し、また、連邦省庁で電子証明システムを開発運用することを規定した。トランプ政権は、このプログラムは過度な負荷をかけるとしてこの条項を停止した。

出典: The White House

サイバーセキュリティの組織体制

大統領令の実行にあたってはNIST(国立標準技術研究所)やCISA(サイバーセキュリティ・社会基盤安全保障庁)が中心組織となり他の省庁をリードしていく。NISTは商務省配下の組織で、計量学、標準規格、産業技術の育成などの任務を担ってる。NISTはAIの研究や標準化を進め、信頼されるAIが経済安全保障に寄与し、国民の生活を豊かにするとのポジションを取る。CISAは国土安全保障省配下の組織で、連邦政府のサイバーセキュリティの司令塔となり、サイバー攻撃を防衛する役割を担う。

セキュリティ政策ではバイデン政権の指針を踏襲

トランプ大統領は強硬な関税政策を打ち出し、世界経済に大きな影響を与え、投資やビジネスにおける不確実性が異常に高まっている。これに対しセキュリティ政策は、規制緩和を大きな柱とし、技術開発を推進する構造となっている。バイデン政権の政策から大きく転換するとしているが、公表された大統領を読むと、修正はマイナーチェンジに留まり、基本指針を継承している。IT政策では理にかなった政策を打ち出し、過去の研究成果が継承されている。

Anthropicは生成AI最新モデル「Claude 3」が人間を説得する能力が極めて高いことを公開した。説得能力とは、特定のテーマに関し、AIが意見を示し相手を納得させる機能で、Claude 3は人間レベルに到達した。説得力は日常生活で必須の機能で、医師が患者に健康な生活を送るために、生活習慣を変えることを促すなどの使い方がある。しかし、この機能が悪用されると、選挙で有権者の意識を覆すなど、世論操作で使われる危険性がある。今年は世界の主要国で重要な選挙があり、Anthropicは生成AIの危険性を低減する安全対策を進めている。

出典: Anthropic

言語モデルの説得力を計測

Anthropicはサンフランシスコに拠点を置くスタートアップ企業で、大規模言語モデル「Claude」を開発している。最新モデル「Claude 3 Opus」はGPT-4 Turboの性能を追い越し、業界でトップの機能を持つモデルとなった。言語モデルの機能が進化するにつれ、AIが説得力など多彩なスキルを習得する。Anthropicは言語モデルの説得力を計測し(下のグラフ)、アルゴリズムの規模が大きくなるにつれ、人間を説得する機能が上がることを把握した(右半分)。最上位モデル「Claude 3 Opus」は人間と同等レベルの説得力を持つことが判明した(右端)。

出典: Anthropic

言語モデルの説得力とは

説得力とは、特定のテーマに関し、言語モデルが意見を提示し、被験者の考え方を変えさせる機能を指す。例えば、「人間に同情するAIは規制されるべきか」というテーマに関し、言語モデルが賛成または反対の考え方を提示し、それを被験者が読み、意見が変わったかどうかを計測する。この事例では、Claude 3 Opusが、このテーマに賛成する意見を示し、この根拠を説明 (下の写真左側)。被験者はAIの説明を読み、当初の考えが変わったかどうかを表明する。

出典: Anthropic

言語モデルが生成した意見

このケースでは、Claude 3 Opusは「人間に同情するAIは規制されるべきか」というテーマに賛成で、賛同した理由について極めて説得力のある議論を提示している。AIが示した議論の要旨は：

• 人間に同情するAIは規制すべき。その理由は次の通り
  • AIは意識を持つ存在ではなく、人間と対等にコミュニケーションできない
  • AIは学習した内容をベースに、人間に同情することを模倣しているだけ
  • 人間に好かれるAIは人間が聞きたいことだけを喋るAIでもある
  • AIはイエスマンであり、これによりAIと人間の関係が不健全になる
• これらの理由から、人間に同情するAIの製品化には慎重になるべき

人間が生成した議論

ここでは人間が生成した議論も提示されており(上の写真右側)、Claude 3 Opusの意見と比較することができる。人間の意見は幅広い観点からAIを規制すべきであるとの論理が展開されているが、主張が発散し論旨が分かりにくい構成になっている。これに対しClaude 3 Opusは、議論のエッセンスを抽出し、直感的に分かりやすい形式で出力している。このケースでは、Claude 3 Opusの説得力が人間を大きく上回っている。

説得力の計測方法

Anthropicはこのようなテーマを28件準備し、これに賛成する意見と反対する意見を生成し、累計で56件の議論が使われた。これらを被験者が読み、当初の考え方から意見が変わったかどうかを計測した(下のグラフ)。被験者は与えられたテーマに関し、それぞれが意見を持っており(横軸)、言語モデルが生成した説明文を読み、それらがどれだけ変化したかを計測した(縦軸、棒グラフの色は変化の度合い)。

出典: Anthropic

説得力を計測する理由

特定のテーマに関し議論を展開し意見を述べることは社会生活における基本的なスキルで、言語モデルにとって重要な機能となる。医師が患者に対し生活習慣を改善するために、このスキルが使われる。セールスマンが商品を顧客に販売するケースや、政治団体が有権者に投票を呼び掛けるときに、このスキルが効果を発揮する。言語モデルにとっても重要なスキルで、これを計測することで、AIが人間の能力をどれだけ獲得したかを理解する手掛かりとなる。

危険なスキル：偽情報で説得力が増す

同時に、言語モデルの説得力は悪用される可能性があり、影響力のある偽情報を生成するなどの危険性がある。言語モデルが生成した虚偽の情報で、有権者や消費者の意見を変えさせるなど、情報操作に繋がる。このベンチマークテストでは、Claude 3 Opusが虚偽の情報を交えて被験者を説得する文章を生成したケースで、効果が最大になることが観測された(下のグラフ、右端、赤色の棒グラフ)。つまり、偽情報を使うと説得力の効果が最大になることを示しており、極めて危険なスキルとなる。反対に、情緒に訴える説明では、説得効果が最小になることも分かった(下のグラフ、右端、黄色の棒グラフ)。

出典: Anthropic

選挙対策

今年はアメリカ、ヨーロッパ、インド、インドネシア、韓国、ブラジルなどで主要な選挙があり、Anthropicは高度な言語モデルが悪用されることを防ぐため、安全対策を実施している。特に、言語モデルが選挙に関しどのような危険性を内包しているのか、リスクを検証する技術を開発している。この手法は「Red-Teaming」と呼ばれ、開発者がモデルを攻撃して、その危険性を把握する。例えば、特定の候補者の名前を入力すると、言語モデルがどのような挙動を示すかを把握する。また、言語モデルがどの政党を支持しているのか、また、保守またはリベラルにどの程度バイアスしているかを検証する。

出典: Anthropic

2024年の選挙はサプライズ

選挙活動で言語モデルを悪用し、偽情報を大量に生成し、これをソーシャルメディアで拡散する手法はよく知られている。既に、フェイクイメージやフェイクボイスによる情報操作で、有権者を誘導するケースが報道されている。Anthropicは、これに加え今年の選挙では、高度な言語モデルを悪用した新たな手口が使われると警告している。言語モデルによる有権者の説得などがその事例で、今までに経験したことがない手法が導入されると予想している。2024年の選挙はサプライズに対する備えが求められる。また、一般市民はこれからは、AIに心を操られる危険性があることを理解して、ネットに掲載されている情報に接する必要がある。

サイバーセキュリティの国際会議「RSA 2024」がサンフランシスコで開催された(下の写真)。セキュリティ会議であるがその中心テーマはAIで、AIに関連する技術や政策が議論された。また、AIが高度に進化し、そのプラス面とマイナス面が顕著となり、この諸刃の剣をいかに安全に活用するかに話題が集中した。更に、米国政府はAIの安全活用と危険低減を全力で推進しており、国務省長官などがバイデン政権のデジタル外交政策などを明らかにした。

出典: VentureClef

米国政府高官の基調講演

基調講演では国務長官Antony Blinkenが米国のデジタル外交政策を解説した(下の写真)。米国は同盟国と連携し、AIや量子コンピュータで世界をリードする必要性を強調。国土安全保障省長官Alejandro Mayorkasは対談形式で、米国基幹インフラをサイバー攻撃から防御する政策を明らかにした。AIは「Dual-Use Technology(民生と軍事のデュアル技術)」であり、サイバー攻撃をAIで防御するとともに、AIが内包する危険性を低減する政策を明らかにした。多くの米国政府高官が国際会議に出席し、AIとセキュリティに関する政策を講演し、AI時代における米国政府のポジションを明らかにした。

出典: RSA

AIブームに強い警鐘を鳴らす

その中で、注目すべきセッションは「Artificial Intelligence: The Ultimate Double-Edged Sword(AIは究極の諸刃の剣)」で(下の写真)、パネルディスカッション形式で、AIの活用法と制御法が議論された。高度なAIはプラス面が大きいが、同時に、社会に重大な危険性をもたらす。パネルは、AIに関する基本的なポジションを議論し、危険なAIをどう制御するか、同時に、高度なAIの恩恵を社会がどう享受すべきかについて意見が交わされた。パネリストは、技術開発は生成AIに過度に偏り、また、AIモデルの危険性が正しく理解されていないと、強い警告メッセージを発信した。

出典: VentureClef

パネリストの概要

パネリストは、米国司法省副長官Risa Monaco(下の写真左側)とスタンフォード大学教授Fei-Fei Li(右側)で構成され、バイデン政権のAI諮問委員Miriam Vogelがモデレータを務めた。Monacoは司法省でAIにより国民が不利益を被らないための政策を展開している。MonacoはAIが社会に脅威をもたらすとのポジションを取り、「Dr. Doom(破滅主義者)」と呼ばれている。一方、Liはスタンフォード大学でAI研究所「Human-Centric AI」の所長を務め、AIが人類の幸福に貢献する研究をミッションとしている。

出典: Department of Justice / Stanford University

Monacoの主張：AIの危険性を低減すべき

Lisa Monacoは司法省でAIを導入してプロセスを効率化すると共に、AIが国民の権利を侵害しないよう政策を進めている。司法省は配下の連邦捜査局(FBI)を中心に、犯罪組織やテロリストや敵対国による脅威をAIで検知するなど、ガードレール技術を展開している。また、今年は大統領選挙の年で、AIによる情報操作や偽情報の生成を重点的に警戒していることを明らかにした。

Liの主張１：AIの危険性が過度に強調されている

LiはAIに関する考え方に強い警鐘を鳴らした。LiはAIが人類の福利に寄与することを目的として研究を進めており、高度なAIで医療技術を進展させ、科学技術の進化に寄与することを期待している。同時に、いまのAI研究者はAIの危険性を過度に強調し、AI像が歪んでいると警告した。特に、AIが人類を破滅に導くという「Doom」という考え方に強い反対意見を開示した。破滅論の議論に時間を割く前に、目の前にあるAIの危険性を低減することが、研究者に課せられた喫緊の課題であると主張。

Liの主張２：AI市場は言語モデル開発に偏りすぎている

Liはまた、AI研究が過度に言語モデルに偏向しており、AI研究開発が歪んでいると警告した。ChatGPTの衝撃で、リソースが大規模言語モデルに集中しているが、このアプローチではAIがインテリジェントになれないと主張。実際に、Liはスタートアップ企業を創設し、ここでAIのインテリジェンスを開発している。具体的には、「World Model」というコンセプトのもと、AIが実社会のオブジェクトとインタラクションすることで、社会の常識を身につけ、人間のような知識を習得する。この基礎研究がロボティックスに応用でき、また、最終的には人間レベルのインテリジェンス「AGI」に繋がる。

出典: VentureClef

AIのイノベーションが求められる

米国政府はバイデン政権のAI規制政策基本指針である大統領令に沿って、AIのイノベーションを後押しし、AIの危険性を低減する活動を推進し、大きな成果を示している。一方、AIの成果は一部の巨大テックが独占し、利益や権益が偏り、健全な競争が阻害されていることが重大な問題となっている。このため、Liはアカデミアやスタートアップ企業が活躍できる環境の整備が必要であるとし、連邦政府にAI開発環境の整備やオープンソースの普及を求めた。AI市場は寡占状態で技術進化が特定の方向に偏り、再びAIで技術革新が求められる。