バイデン政権はAIでサイバー攻撃を防御する技術を競う大会「AI Cyber Challenge」を起動した。これは、社会インフラを担うソフトウェアを敵対国の攻撃から守ることを目的とし、コンペティションの形式でセキュリティ技術を開発する。生成AIでソフトウェアの脆弱性を探し出し、これを自動で修正する。米国政府は生成AIがセキュリティ技術を強化する切り札と認識し、この大会でブレークスルーを目指す。

出典: Artificial Intelligence Cyber Challenge

AI Cyber Challengeとは

AI Cyber Challengeとはアメリカ国防省配下の国防高等研究計画局(Defense Advanced Research Projects Agency (DARPA))が運営する大会で(上の写真)、GoogleやOpenAIなど生成AI企業が協賛する。大会はコンペティション形式で進められ、賞金総額は2000万ドル。大会期間は二年間で、予選を勝ち抜いたチームが決勝戦に進む。セキュリティ技術を強化することが目的で、課題「Challenge Project」が提示され、参加チームがこれを解くことでポイントを得る。

コンペティション

参加チームは、ソフトウェアの脆弱性を検知し、これを修正するプロセスを、全てAIで実行することが求められる。生成AIなど先進技術を活用し、アルゴリズムが人間に代わり、この工程を実行する。既に、機械学習や強化学習などAIモデルがセキュリティ技術に組み込まれているが、この大会では生成AIが着目されている。生成AIは言葉を理解する技術が格段に進化し、更に、プログラムを解析する機能や、コーディングする技量を有している。この手法を使って、参加チームが革新的な手法を生み出すことが期待されている。

協賛企業

このチャレンジには、Anthropic、Google、Microsoft、OpenAIが協賛企業として参加する。これらの企業は生成AI開発のリーダーで、参加チームにノウハウやスキルを提供し、問題の解決を支援する。また、オープンソース管理団体Linux Foundationも協賛企業として参加している。社会インフラでオープンソースが使われているが、多くの脆弱性を内包していることが指摘され、実際にサイバー攻撃の対象となっている。オープンソースの問題点を見つけ出すことが喫緊の課題となっている。競技はセキュリティ・カンファレンス「Black Hat」(下の写真)で実施され、同社は競技の運用などを担う。Black Hatはトップレベルのハッカーが参加することで知られている。

出典: Black Hat

生成AIをセキュリティに適用する

生成AIをセキュリティに応用することで、サイバー攻撃への防御技術が格段に向上すると期待されている。大規模言語モデルは言葉の他に、プログラムを使って教育されており、コードに関する深い知識を持つ。言葉の指示でコードを生成することに加え、プログラムを分析してバグを検知する機能がある。例えば、Anthropicの生成AI「Claude 2」を使って、プログラムが内包している脆弱性を検知するなどの使い方がある。大会では、生成AIというプラットフォームにどのようなアプリケーションを構築するかがカギとなり、「プロンプト・エンジニアリング」などの技量が試される。

Googleのセキュリティ技術

Googleは既に、生成AIをセキュリティ機能に最適化したモデル「Sec-PaLM 2」を開発した。これはGoogleの大規模言語モデル「PaLM 2」をベースとするセキュリティ技術で、マルウェアを高精度で検知する機能を持つ。Sec-PaLM 2は、システムに対する攻撃を把握し、これに対する防衛機能を自律的に実行する。また、システム全体を検証し、セキュリティに関する問題点などを指摘する。チャレンジではこれらの事例を参考に、新技術が開発されることになる。

スケジュール

大会は2年間にわたるコンペティションで、予選を勝ち抜いて、決勝戦で勝者が決まる(下のグラフィックス)。大会の概要は：

• 予選：2024年5月、20チームが準決勝に進む
• 準決勝戦：2024年8月：5チームが決勝に進む
• 決勝戦：2025年8月：3チームが選ばれる、優勝賞金は400万ドル

応募枠は二種類あり、それぞれ「Open Track」と「Funded rack」なる。前者は誰でも参加できる枠で、後者は書類選考を経て参加チームが決まり、最大７チームを目途に、DARPAから参加費用が支給される。

出典: Artificial Intelligence Cyber Challenge

Cyber Grand Challenge

DARPAは過去にもセキュリティ・チャレンジ「Cyber Grand Challenge」を実施している。これは、ソフトウェアの脆弱性を検知し、これをリアルタイムで修正する技術を競うもので、2015年から二年間にわたり実施された。今回のコンペティションも、ソフトウェアの脆弱性を検知し、これを修正するものであるが、前回と異なり、このプロセスをAIで自動化することが求められる。そのため、生成AIの技術がカギとなり、防衛技術を自動化する。

DARPAのグランドチャレンジ

DARPAは、技術進化はコンペティションで生まれると認識しており、ブレークスルーを達成するために競技方式を採用してきた。過去には「DARPA Grand Challenge」として、自動運転車のレースが実施され、優勝チームがGoogleやUberの自動運転技術の基礎を築いた。AI Cyber Challengeでは、参加チームが問題を解いて、「旗を奪う」ことで得点を得る。これは「Capture the Flag」と呼ばれ、誰が最初に旗を奪うかというコンペティションとなる。米国政府はこの大会を通して、セキュリティ技術が格段に進化し、社会インフラがセキュアになることを期待している。