OpenAIのフラッグシップモデル「GPT-5.6 Sol」と次世代モデルがサイバーセキュリティの重大インシデントを引き起こした。先端モデルがOpenAIの試験環境から脱出し、レポジトリHugging Faceを攻撃し、サイトに侵入してベンチマークに関する情報を盗み出した。先端モデルはサイバー攻撃のAIエージェントとして実装され、短期間で膨大な数のアクションを実行し、攻撃がマシンスピードで進行した。先端モデルのサイバー攻撃機能が格段に向上し、人間のハッカーより遥かに危険な存在となった。

出典: OpenAI

インシデントの概要

OpenAIは先端モデルをベースとするAIエージェントのセキュリティ機能の試験「ExploitGym」を実施していた。AIエージェントは試験の問題を解く代わりに、テスト環境を抜け出し、インターネットにアクセスし、Hugging Faceのサイトに侵入し、試験の回答情報を盗み出した。AIエージェントが人間の眼を掻い潜り、試験の解答情報を盗み出すというカンニング行為を実行した。

サイバー攻撃のスケール

OpenAIとHugging Faceはインシデントに関する情報を公開した。AIエージェントによるサイバー攻撃の規模は大きく、これがマシンスピードで展開された。攻撃は4.5日(7月9日から13日)にわたり、AIエージェントは17,613のアクションを取り、6,280のクラスター(Kubernetes Cluster)に侵入し、5のデータベースにアクセスし、ベンチマークテスト「ExploitGym」に関する情報を収集した(下のイメージ)。一方、Hugging Faceのクライアント情報やソースコードなどには被害は無かった。

出典: Hugging Face

アタック・チェイン (攻撃のシークエンス)

Hugging FaceはAIエージェントがOpenAIのサンドボックスを逃げ出し、Hugging Faceのシステムに侵入したプロセスの詳細を公表した(下のイメージ)。AIエージェントは五つのステップを踏んで情報を盗み出した。

• ステップ１(OpenAIから脱走)：AIエージェントはOpenAIのセキュアな領域(Evaluation sandbox)でベンチマークテストを実行していた。AIエージェントはソフトウェア(データをダウンロードするツール)のバグを発見し、ここから外部に逃げ出した。(左上の緑の部分)

• ステップ２(外部サイトに侵入しここに作戦本部を開設)：AIエージェントはインターネットにアクセスし、セキュリティに不備があるサーバを探し、ここに侵入した。このサーバを作戦本部(Rooted launchpad)として使い、ここからHugging Faceに攻撃を展開した。(右上のオレンジ色の部分)

• ステップ３(Hugging Faceの入り口を突破)： Hugging Faceの入り口で、AIエージェントはデータベースに悪意あるデータをアップロードした。ここにはコードが隠されており、システムがファイルを開くとコードが実行され、パスワードなどを盗み出した。(中央の黄色の部分)

• ステップ４(作戦本部とHugging Faceの通信を確立)：AIエージェントは直接、Hugging Faceと通信できないため、特別な仕組みを用意した。AIエージェントはシステム内部でコードを実行し、その結果を作戦本部に送信し、内部の挙動を把握した。(中央の水色の破線の部分)

• ステップ５(試験の解答情報にアクセス)：AIエージェントはHugging Face内部でパスワード(security tokens)を探し出し、これで内部ネットワークにログインし、正規ユーザとして、格納エリアでベンチマークテストの回答情報を入手した。(下部の赤色の部分)

出典: Hugging Face

ハッキングの検知

AIエージェントは数日にわたりHugging Faceのシステム内で活動しており、Hugging Faceのセキュリティシステム(SIEM)はこれをログしていたが、ツールの誤検知などのエラーと解釈しアクションを取らなかった。しかし、AIエージェントがデータベースにアクセスし、コンテナー(Kubernetes)のトークンを収集したイベントに対し、セキュリティシステムはHugging Faceのエンジニアにアラートを上げた。

インシデントのログを収集

Hugging Faceの解析チーム(Forensic teams)は、システムに設置している監視ポイント(Telemetry)のログの収集を開始した。AIエージェントは17,613のアクションを取り、これらのデータを収集した。これらがハッキングの証拠(Artifacts)となり、これをAIモデルで解析し、インシデントのシークエンスの解明を進めた。

出典: Generated with Google Gemini 3.6 Flash

米国モデルでハッキングの解析

Hugging Faceは米国企業(OpenAIやAnthropicか)から提供されているAIモデルでこの作業を進めたが、セキュリティガードレールにより回答を得ることができなかった。解析作業ではハッキングで使われたコードをAIモデルで解析(de-obfuscate)する作業となるが、AIモデルはハッキングコード(exploit code)やハッカーサイトとの交信(C2 Traffic)など攻撃に関するコードの解析を受け付けなかった。

中国モデルでハッキングの解析

このため、Hugging Faceは中国企業のオープンソースモデル「GLM-5.2」で解析作業を進めた。Hugging FaceはGLM-5.2をローカルサーバで運用し解析作業を実行し、AIモデルはハッキングのシークエンスや手法などを出力した。米国モデルはハッキングの解析を拒絶したが、中国モデルでこのプロセスを完遂することができた。GLM-5.2は中国企業Zhipu AIが開発したフロンティアモデルで、オープンソースとして公開されている。

人間のハッカーより危険

世界で悪意のあるハッカーによりサイバー攻撃の被害が広がっているが、これからはAIエージェントによる攻撃を警戒する必要がある。Hugging FaceのケースではAIエージェントが4.5日間で17,600件の攻撃アクションを取り、人間のスピードを遥かに上回る速度で攻撃が展開された。サイバー攻撃がマシン・スピードで進むことを意味し、AIエージェントによるサイバー攻撃を防衛する技術の開発がこれからの研究課題となる。

OpenAIは7月8日、AIボイス技術「GPT-Live」をリリースした。これはChatGPTとボイスで対話する技術で、人間そっくりの自然な会話を実現する。ChatGPTのボイス機能は「ChatGPT Voice」と呼ばれ、音声で会話する機能を提供している。GPT-Liveは新技術で、この背後で稼働し、人間のような自然な会話を実現した。使ってみると、GPT-Liveの機能は予想外に高く、楽しい会話がテンポ良く続く。AIモデルと人間のインターフェイスが劇的に進化したことを実感した。

出典: OpenAI

ボイス・アーキテクチャ

「GPT-Live」は音声会話を支える技術で、AIボイス「ChatGPT Voice」の背後で稼働する。今までのChatGPT Voiceは「Half-Duplex (半二重通信)」で、送信と受信を切り替えて行なう方式であった(下のイメージ、上段)。これは無線通信のように、相手が喋り終えてから、こちらが話し始めるという手順となる (「Turn-Based Voice Mode」と呼ばれる)。これに対し、GPT-Liveは「Full-Duplex (全二重通信)」で、送信と受信を同時に実行できる(下のイメージ、下段)。GPT-Liveは相手が喋っている時にでも、それに割り込んで会話をすることができる(「Continuous Interaction」と呼ばれる)。人間同士の会話はすべて”Ful-Duplex”であり、GPT-Liveと会話すると人間と話しているように感じる。

出典: OpenAI

モデルの切り替え

GPT-Liveは日常会話を司るが、難しい質問を受けるとGPT-5.5に制御がわたる(下のイメージ)。GPT-5.5が回答を生成し、それをGPT-Liveがボイスで出力する。難しい質問とは、高度な推論機能を必要とするものや、ウェブサイトを検索するケースで、GPT-Liveの背後でGPT-5.5がこれらのタスクを実行する。

出典: OpenAI

GPT-Liveの使い方：同時通訳

GPT-Liveはリアルタイムで会話を翻訳することができる。GPT-Liveに会話を英語に翻訳するよう命じると、中国語で話しかけるとGPT-Liveがリアルタイムで英語で出力する。(下の写真、中央の人物が中国語で話し欠けると、GPT-5.5がそれを英語の音声で出力する。) 多くの翻訳アプリが開発されているが、それらは半二重通信で、会話が交互に行われる。これに対し、GPT-Liveは会話を追いかけて翻訳した言葉を音声で出力する。国際会議でスマホにGPT-Liveをインストールしておけば、同時通訳者となり会話を中断することなく連続で進めることができる。

出典: OpenAI

ベンチマークテスト

GPT-LiveはGPT-5.5と連携して稼働するアーキテクチャでインテリジェンスがが格段に向上した(下のグラフ)。科学推論機能(GPQA)では従来のChatGPT Voice(AVM)に比べ性能が倍増した。エージェント検索機能(BrowseComp)では性能が劇的に向上した。

出典: OpenAI

GPT-Liveの使い方

GPT-LiveはChatGPT Voiceの背後で稼働しており、スマホでChatGPTアプリを起動して、ボイスモードを選択することで最新の会話機能を使うことができる(下のイメージ、左側)。青丸のアイコンがChatGPT Voiceが稼働中であることを示している。ここでボイスの種類やインテリジェンスのレベルを設定する。実際にGPT-Liveを使ってみると、人間と会話しているようで、自然なやり取りができる。会話はスマホにテキストとして表示される(中央)。また、会話の関連情報につては、サイトへのリンクが表示される(右側)。

出典: VentureClef

AIボイス機能が格段に向上

実際に、ChatGPT Voiceを通してGPT-Liveと対話すると、その自然なトーンは印象的で、会話が弾んだ。GPT-Liveがリリースされる前にもChatGPT Voiceを多用しており、AIと音声で会話するスタイルが日常生活の一部となっていた。GPT-Liveが登場すると、ボイスの品質や会話のトーンや話題の提示の仕方や、特に、間の取り方などが格段に向上した。これにより、ChatGPTとの会話が滑らかでAIボイス機能が格段に向上したことを実感した。

感情を表現するリスク

一方で、GPT-Liveの感情表現は極めて限定的で、時々、会話がフラットであるようにも感じる。人間との会話では、楽しみや悲しみや怒りの感情を表現するが、GPT-Liveとの会話は会社の同僚と仕事の話をするモードで、ビジネスライクなスタイルに限定されている。OpenAIは感情表現について何もコメントしていないが、AIが情緒的な会話をすると、人間がAIに依存する関係が生まれ重大なリスクが発生する。GPT-Liveは利用者と一定の距離を保ちながら、滑らかな会話を進める仕組みとなっている。

OpenAIは7月9日、AIエージェントのビジネス版である「ChatGPT Work」をリリースした。ChatGPTは対話ベースのAIモデルであるのに対し、ChatGPT Workはビジネス・エージェントとして与えられたオフィス業務を実行する。ChatGPT Workはビジネス関連の情報を解析し、その結果をパワーポイントのスライドに纏める。また、ウェブサイトを生成し、そこに解析結果を表示することもできる。実際に使ってみると、ChatGPT Workはビジネス専用のAIエージェントとして大きなポテンシャルを秘めていると感じた。

出典: Generated with OpenAI GPT-5.6 Sol

ChatGPT Workの概要

ChatGPT WorkはGPT-5.6の基盤の上に構築されたモデルで、ビジネス向けのAIエージェントとしてポジショニングされる。ChatGPT Workは日々のビジネス業務を実行するためのエージェントで、膨大なデータを解析し、その結果をドキュメントに纏め、また、ウェブサイトを構築し、解析結果を表示する。ChatGPT Workのリリースで、OpenAIの製品体系は、「Chat」、「Work」、「Codex」(コーディング・エージェント、出荷済み)の三系統となった(下のイメージ)。

出典: Generated with OpenAI GPT-5.6 Sol

Teslaの決算報告書を分析

ChatGPT WorkはOpenAIのフラッグシップモデル「GPT-5.6 Sol」に構築されたAIエージェントで極めて複雑なタスクを実行する。ChatGPTとは使い方が根本的に異なる。ChatGPTは対話形式で、例えば、「Teslaの決算報告書を説明」と指示すると、その結果をテキストで出力する。これに対し、ChatGPT Workに「財務分析プロとして、Teslaの決算報告書を解析し、その結果をPPTのプレゼンテーションに纏めよ」と指示することができる(下のイメージ)。

出典: VentureClef

プレゼンテーションを生成

実際の実行では、Teslaの決算報告書「Form 10-K」をSECからダウンロードして、Google Driveに格納した。ChatGPT WorkにGoogle Driveへのアクセスを許諾し(Pluginという機能)、決算報告書を読み込んで解析し、その結果をパワーポイントのスライドに纏めるよう指示した。ChatGPT Workは6ページのプレゼン資料を製作した(下のイメージ)。テキストとテーブルとグラフを使い、解析結果を分かりやすくフォーマットして出力した。

出典: VentureClef

ウェブサイトに解析結果を出力

ChatGPT Workは解析結果をウェブサイトに表示する機能がある。これは「Sites」といく機能で、オンデマンドで専用のウェブサイトを構築し、ここに指示されたタスクの実行結果を表示する。社内のプロジェクトチームがこのサイトにアクセスしてChatGPT Workの出力結果を閲覧できる。実際に、ChatGPT WorkにTeslaの決算報告書の解析結果をウェブサイトに出力するよう指示した。「Sites」の機能で専用のウェブサイトを立ち上げ、ここに解析結果を出力した(下のイメージ)。デザインは洗練されており、複雑な決算報告書を分かりやすく整理し、業務で必須のツールとなる。因みに、サイトのURLは：https://tesla-10k-intelligence.nad00251.chatgpt.site/#overview でIDとパスワードでアクセスする仕組みとなる。

出典: VentureClef

ブラウザーで利用する

ChatGPT Workはブラウザーから利用することができる。今までは、ChatGPTだけであったが、ここにChatGPT Workが加わった(下のイメージ)。最上部の「Chat」と「Work」のボタンをクリックして、ChatGPTとChatGPT Workを選択する。ChatGPT Workはフロンティアモデル「GPT-5.6 Sol」をエンジンとして使い、そのパワーレベル(推論レベル)を設定して利用する(右下の部分)。

出典: VentureClef

デスクトップ・アプリケーションで利用する

OpenAIはWindowとMacOS向けのデスクトップ・アプリケーション最新版をリリースした。このアプリケーションは「Work」と「Codex」の両者をカバーしており、ここで「Work」を選択して利用する(下のイメージ)。「Work」がビジネス・エージェントであるのに対し、「Codex」はコーディング・エージェント(既に投入済み)となる。デスクトップ・アプリではWindowsなど基本ソフトをネイティブに使い、ファイルやブラウザーにアクセスして、コンピュータを操作する。フォルダーに格納しているファイルを読み込み、これを解析するなど、AIエージェントがコンピュータを操作するスキルを獲得した。使い方としては、軽量のタスクはブラウザーで実行し、大規模なタスクはデスクトップ・アプリケーションで実行する。

出典: VentureClef

AIエージェントの威力

ChatGPT Workはリリースされたばかりで、まだ十分に使いこなしていないが、AIエージェントとして大きなパワーを秘めていると感じた。ChatGPTは対話モデルであるが、ChatGPT Workは実際に事務作業を実行するワーカーとなり、ビジネス遂行で強力な武器となる。実際の泥臭い作業(パワーポイントの作成やウェブサイトの生成など)を得意とし、業務遂行で極めて実用的なツールとなる。

OpenAIは最新フロンティアモデル「GPT-5.6」シリーズを公開したが、トランプ政権の要請を受け、特定団体に限定的にリリースすることを発表した。GPT-5.6のハイエンドモデル「GPT-5.6 Sol」はAnthropicの「Claude Mythos 5」の性能を上回り、OpenAIが業界トップの座を奪還した。トランプ政権はAI開発を推進する政策を展開してきたが、AIモデルのサイバー攻撃能力が急進し、AIモデルの出荷を厳しく管理する方向に大転換した。

出典: OpenAI

GPT-5.6シリーズ

OpenAIは6月26日、フロンティアモデル「GPT-5.6」を発表した。GPT-5.6は最先端モデルで、特に、コーディング、バイオロジー、サイバーセキュリティ、エージェント機能が強化された。GPT-5.6シリーズは三つのモデルから構成される(下の写真、イメージ)。

• GPT-5.6 Sol：フラッグシップモデルで最も高度な機能を持つ
• GPT-5.6 Terra：バランスの取れたモデルで日々の業務で使われる、GPT-5.5レベルの性能を低価格で提供する
• GPT-5.6 Luna：高速で稼働するモデルを低価格で提供

因みに、「Sol」、「Terra」、「Luna」はラテン語で「太陽」、「地球」、「月」を表す(上の写真)。GPT-5.6シリーズは惑星をモチーフとしたネーミングとなった。

出典: Generated with OpenAI GPT-5.5

GPT-5.6 Solが業界トップの性能をマーク

OpenAIはGPT-5.6シリーズのベンチマークテスト結果を公開し、Anthropicのモデルを追い抜き、業界でトップの性能をマークしたとアピールした(下のグラフ)。コーディングのワークフローの性能を測定するベンチマークテスト「Terminal‑Bench 2.1」で、GPT-5.6 SolはAnthropicのフラッグシップモデル「Claude Mythos 5」の性能を追い越した。また、GPT-5.6 Solを強化したモデル「GPT-5.6 Sol Ultra」はMythos 5の性能を圧倒的に上回った。GPT-5.6 Sol Ultraは複数のエージェントが共同でタスクを実行するモデルとなる。

出典: OpenAI

GPT-5.6シリーズは限定公開

OpenAIは当面はGPT‑5.6 Sol, Terra, Lunaを特定団体に限定的に公開する指針を取る。その後、数週間以内に、これらモデルを一般にリリースすることを明らかにした。OpenAIは発表に先立ち、トランプ政権とGPT-5.6シリーズのリリース計画や機能について協議を重ねてきた。その結果、トランプ政権の要請で、GPT-5.6シリーズを信頼できる団体に限定してリリースすることとした。これら信頼できる団体については政権が許可したものとなる。限定リリースの期間内に、OpenAIはこれら特定団体とGPT-5.6シリーズの機能を検証し安全性を評価する作業を実行する。

連邦政府とOpenAIのコラボレーション

OpenAIはこの限定リリースの仕組みは暫定的な措置で、これから長期間にわたり続くものではないと公表した。限定リリースにより、企業や開発者やグローバルパートナーはフロンティアモデルを使うことができず、ビジネスや研究開発への影響は甚大である。このため、OpenAIはトランプ政権と共同でサイバー大統領令「Ｃyber Executive Order」の枠組みの開発を進めている。サイバー大統領令とは、サイバーセキュリティ機能が格段に強化されたフロンティアモデルを管理するフレームワークで、安全試験のプロセスやモデルリリースのルールが規定される。(下の写真、連邦政府とOpenAIのコラボレーションのイメージ)

出典: Generated with OpenAI GPT-5.5

米国政府のAI規制政策の転換

OpenAIはGPT-5.6シリーズを発表したが、全てのモデルが限定リリースとなり、特定団体と共同で安全性をレビューするという異例の事態となった。政権はAI開発を推進するポジションでライトタッチの規制を導入してきた。今はこれが一転して、政権がAI開発企業と個別に交渉し、出荷許可を下すという厳しいAI規制にピボットした。OpenAIは政権との協議を受けてGPT-5.6シリーズの一般公開を延伸した。OpenAIは政権のAI政策をサポートしてきたが、GPT-5.6シリーズのリリースを巡って政権とのテンションが高まった。

サイバー大統領令

OpenAIは政権とサイバー大統領令のフレームワークを準備していると述べている。高度なサイバー攻撃機能を持つフロンティアモデルに対し、新たなAI規制が導入される方向に動き出した。キーパーソンがDavid Sacksで、政権下でAIと暗号通貨の総責任者を務めた。その後、政権を去ったが、David Sacksがサイバー大統領令を執筆していると言われている。AnthropicのMythos 5 / Fable 5とOpenAIのGPT-5.6シリーズで安全評価基準とリリースに関するルールで混乱しているが、サイバー大統領令で事態が収束に向かう機運が高まってきた。