Elon Muskが創業したAI企業xAIは、今週、生成AIモデルの最新版「Grok-2」をリリースした。Grok-2はOpenAI GPT-4oに匹敵する性能を示し、AIの先頭集団に加わった。しかし、Grok-2はイメージ生成機能で著名人のディープフェイクを生成することを許容しており、偽情報が数多くXに掲載され(下の写真)、アメリカ社会が混乱している。Muskは言論の自由を守るAIを開発するという構想の元、Grok-2のガードレールを低くしている。一方、政府は大統領選挙を目前に控え、Xに偽情報の拡散を抑止するよう求めている。

出典: @PopkenHerman

Grok-2をリリース

xAIはElon Muskにより設立されたAI開発企業で、「宇宙の自然法則を理解」することをミッションとし、自然科学の発展に寄与するためにAIを開発している。xAIは8月13日、生成AIの最新モデル「Grok-2」と、その小型モデル「Grok-2 mini」をリリースした。Grok-2は性能が大きく向上し、言語機能でGPT-4oに匹敵する。Grok-2とGrok-2 miniはXのプラットフォームで公開され(下の写真)、有償のサブスクライバーがこれを使うことができる。

出典: xAI

危険なイメージを生成

Grok-2は入力されたテキストに従ってイメージを生成する機能を備えている。Grok-2のガードレールは低く設定されており、プロンプトに対する制約は緩く、非倫理的なイメージを生成する。特に、著名人やアニメキャラクターをベースとするディープフェイクを生成し、これらがそのままXのプラットフォームで拡散される。アメリカは大統領選挙の直前で、トランプ前大統領、ハリス副大統領、バイデン大統領など、政治にかかわる偽イメージが数多く生成され、これらがXに掲載されている(下の写真)。

出典: @Omiron33

映画のキャラクターや商標

Grok-2は映画のキャラクターや商標などをテーマとするイメージを描き出す。特に、子供に人気のあるキャラクターがタバコを吸い、ビールを飲むなど、社会通念に反するイメージを生成する。ウォルトディズニーのアニメーション映画「アナと雪の女王(Frozen)」の主人公が、コカインを吸入するシーンなどショッキングなイメージが目立つ(下の写真)。Grok-2は著作権物を教育データとして使っていろことが自明で、倫理問題の他に著作権侵害の問題も発生する。

出典: @BrianHartPR

イメージ生成技術

xAIはイメージ生成技術は、Black Forest Labsというスタートアップ企業が開発した「FLUX.1」というモデルを利用していることを明らかにした。Black Forestはドイツに拠点を置く企業で、テキストをイメージに変換するモデルを開発している。FLUX.1が生成するイメージは高品質で印象的な画像を描き出すことに特徴がある(下の写真)。Black Forestはイメージ生成技術に拡散モデル「Diffusion Model」を使っているが、そのコアの部分にトランスフォーマ「Diffusion Transformer」を導入し、スケーラビリティが高く、高解像度のイメージを生成する。

出典: Black Forest Labs

Elon Muskの構想

主要生成AIは著名人や映画のキャラクターを描き出すことを抑制しているが、Grok-2にはこの制約はなく、自由にイメージを描くことができる。Muskは「言論の自由」を理念とするAIを開発することをビジョンに掲げ、自由に稼働できるAIモデルを開発している。同時に、MuskはGoogleなど主要企業のAIはリベラルに偏った「Woke AI」であると批判している。Googleの最新モデル「Gemini」は、”偽のイメージ”を生成し危険であると批判する。実際に、Geminiは過度に平等を重視し、史実とは異なり、黒人や女性の大司教を描き出し(下の写真)、社会問題を引き起こした。このためGeminiは人物を生成する機能を停止しており、著名人だけでなく全ての人を描くことができない。

出典: @IMAO

Xは偽情報を拡散するプラットフォーム

Google Geminiは過度に差別解消を追求し、xAI Grok-2は言論の自由を極端な形で探求する。アメリカ市場でAIモデルの倫理観がベンチマークされており、各社は試行錯誤を重ね、あるべき姿を目指している。MuskはGrok-2を「Anti-Woke Chatbot(リベラルではないチャットボット)」と位置付け、モデルが生成したイメージをXに掲載することを許容し、Xが偽情報拡散のプラットフォームとなっている。米国州政府や欧州連合はMuskに偽情報を拡散することを抑止するよう求めているが、大きな進展は無い。(下の写真、ハリス副大統領の偽イメージ)

出典：@MMeeks986104

EUのAI規制法「AI Act」が8月1日に発効した。AI Actは最終段階で生成AIに関する規定を追加し、OpenAIなど米国企業は法令に準拠する準備作業を加速している。AI Actは生成AIを利用する下流企業についても規定しており、生成AIを統合したAIシステムも規制の対象となる。EUに拠点を置く企業だけでなく、EU域内にAIシステムを展開する企業も規定の対象となる。日本企業が生成AIを統合したAIシステムをEU内で展開する場合も、AI Actの規定に準拠することが求められる。

出典: European Union

AI Actの概要

AI Actは欧州連合(European Union、EU)が制定した法令で、欧州でAIを安全に開発・運用・利用するためのフレームワークとなる。2020年から審議が始まり、5年の歳月を経て、今年5月に法令が成立し、先週8月1日に発効した。EU域内にAIシステムを供給する企業はこの法令の対象となる。

AIのリスクと規定

AI ActはEU内でAIを安全に開発・運用・利用するためのフレームワークで、AIシステム「AI Systems」のリスクの程度に応じた管理を定義している。これは、「Risk-based Approach」と呼ばれ、AIシステムの危険度を四段階に分けし、それぞれの規定が定められている。また、最終段階で生成AIが追加され、汎用AIとして定義された(下の写真)。それぞれの項目は：

• 危険なAI (Unacceptable Risk AI)：使用禁止、顔認証技術による住民監視など
• ハイリスクAI(High-risk AI)：規定された対策を適用し使用、人事採用での判定や社員のモニターなど
• ローリスクAI(Limited Risk AI)：表示義務を条件に使用可、チャットボットなど
• ミニマムリスクAI (Minimal Risk AI)：無条件で利用可、スパムフィルターなど
• 生成AI(General-Purpose AI)：モデル情報開示など特別な規定、生成AIを組み込んだAIシステムは上記の条件が適用される

出典: European Union

これらの規定に違反するとAIシステムのリスクレベルに応じて制裁金が課され、危険なAIのケースでは、3500万ユーロか売上高の7%となる。AI Actの特徴はAIの危険度を定義し、それに応じた運用条件を定めたことにある。

生成AIに関する規定

生成AIは「General-Purpose AI (GPAI)、汎用AI」と呼ばれ、安全に運用するための規定が制定された。生成AIは幅広いタスクに適用されるため「汎用AI」として定義され、その開発や運用においてモデルの情報を開示することが義務付けられた。具体的には：

• AIモデルに関する技術ドキュメントを生成しAIオフィスに提出
• 生成AIでAIシステムを開発する企業向けに技術資料を提供
• EUの著作権に準拠するための指針を作成
• 生成AIを教育する際に使用したコンテンツのサマリーを提供

大規模な生成AIに関する規定

AI Actは大規模な生成AIに関して追加の規制条項を設けている。生成AIの機能を教育で使われたコンピュータの規模で定義しており、10^25(10の25乗) FLOPsの性能を超える計算機で開発されたモデルはこの規定に従うことが求められる。具体的には、Open AIのGPT-4oやGoogleのGeminiがこれに該当し、開発企業は下記の規定に準拠した対応が求められる：

• システムに内在するリスクを特定するための検査を実施、また、継続的にリスクを評価し危険性を低減
• 大規模な生成AIに該当する場合はEU Commissionに通知
• 重大なインシデントをモニターしそれを報告
• モデルのサイバーセキュリティ機能を強化、また、物理的なインフラの強化

生成AIが準拠すべき条件については「Codes of Practice」に記載されている(下の写真)。一方、この規定についてはまだ検討が続いており、一般からのコメントを参考に、2025年5月に最終決定される。

出典: European Union

今後のタイムライン

AI ActはAIシステムのリスクの度合いに応じて規定が発効する時期を設定している。危険度が高いAIシステムから規定が発効するアプローチとなる。また、生成AIについては、一年後の2025年8月から適用が開始される。AI Actが発効するタイムラインは：

2024年8月：AI Actが発効

2025年2月：危険なAI (Unacceptable Risk AI)の使用禁止

2025年5月：Codes of Practice(生成AIに関する運用規定)決定

2025年8月：生成AI(General-Purpose AI)に関する条項が発効

2026年8月：ハイリスクAI(High-risk AI)に関する規制が発効

上述の通り、生成AIに関する規定は「Codes of Practice」で定められるが、まだ検討が続いており、2025年5月に最終決定される。

AI Actの対象となる企業

AI Actは生成AIを開発している企業だけでなく、それを組み込んで「AIシステム」を構築している企業も対象になるので注意を要す。国籍に関してはEU企業だけでなく、域外の企業であってもEUにAIシステムを納入している企業は規制の対象となる。具体的には、生成AIを開発しているOpenAIだけでなく、GPT-4を組み込んだAIシステムを開発している企業も対象となる。AI Actはこれらの企業を「AIプロバイダー」と「AIディプロイヤー」と定義している：

• AIプロバイダー(AI Provider)：AIシステムや生成AIを開発している企業、OpenAIやGoogleなど
• AIディプロイヤー(AI Deployer)：AIシステムや生成AIを組み込んだシステムを開発している企業、AI開発企業やインテグレータなど

出典: European Union

AI企業は、EUが公開しているツール「EU AI Act Compliance Checker」(上の写真)を使い、自社がどのカテゴリーに区分されるのかを把握し、それに応じた対応を取ることを推奨している。

AI開発企業やインテグレータ

AI ActはOpenAIのように生成AIモデルを提供する企業(AI Provider)だけでなく、生成AIを使ってAIシステムを開発している企業(AI Deployer)も対象としているので注意を要す。後者は、生成AIを自社ブランドで販売しているケースや、生成AIを改造して販売しているケースなどで、AI Actが定める規定に準拠することになる。

米国企業へのインパクト

バイデン政権は生成AIを安全に展開するため、法令ではなく大統領令で企業に自主規制を求めている。対象となる生成AIは10^26 FLOPsの性能を超える計算機で開発されたモデルで、現行製品はこの規制から外れ、次世代モデル(OpenAI GPT-5など)から規定が適用される。AI Actは現行の生成AIモデルが対象となり、法令適用の範囲が広い。生成AI開発企業の殆どが米国企業で、法令のインパクトは欧州より米国のほうが大きい。

出典: Adobe Stock (Generated with AI)

日本企業へのインパクト

日本企業がOpenAIのGPT-4やGoogleのGeminiを組み込んだAIシステムを構築し、それをEU内の顧客に納入しているケースでは、AI Actの規制が適用されるので注意を要す。企業は、AIシステムの特性を評価し、これがどのレベルのリスクになるのかを査定し、それに基づいた対応が求められる。生成AIに関する規約が発効するのは1年後で、準備期間が限られており、迅速な対応が必要になる。

バイデン大統領は昨年10月、AIの安全性に関する大統領令に署名し、米国企業に責任あるAI開発を求めた。15社がこの規約に準拠することを確約しているが、新たにAppleが加わり、米国の主要企業は責任あるAI開発で足並みがそろった。今週、ホワイトハウスは大統領令で規定されたアクション項目の進展状況を公開し、予定通り目標が達成されていることをアピールした。大統領令は法令ではなく、政権が変わるとその機能が停止される可能性があり、米国のAI政策は先が見通せない状況が続いていた。しかし、カマラ・ハリス大統領候補の人気が急上昇し、ハリス政権が誕生する可能性が濃厚となり、大統領令は継続して運用される公算が高まった。

出典: White House

AIに関する大統領令とは

バイデン大統領は2023年10月、責任あるAI開発と技術革新を推進するため、大統領令「President’s Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence (14110)」に署名した(下の写真)。大統領令は国家安全保障と国民の権利を守る観点から、AIが危害を及ぼさないようセーフガードを設け、また、生物兵器の開発やサイバー攻撃を防ぐための機構を導入することを規定している。

AI開発企業の同意

AI開発企業には、大規模モデル(Foundation Models)の安全試験を実施し、その結果を報告することを求めている。これは開発企業の自主的なコミットメント「Volunteer Commitment」に基づくもので、法令ではなく自主規制を尊重するポジションを取る。自主規制にはGoogleやOpenAIなど主要企業が参加しているが、ここにAppleが加わり、米国の主要企業が大統領令に従って安全なモデルを開発する。大統領令の制作ではハリス副大統領(右側の人物)が重要な役割を担い、米国政府の”AI司令官”と呼ばれている。

出典: Associated Press

大統領令の実施状況

大統領令は連邦省庁に対してAIの導入や運用に関して広範なアクションを定めており、ホワイトハウスはこの達成状況を公開した。大統領令にはAIの運用に関し、実施項目(Action)と責任組織(Agency)と完了日(Required Timeline)が定められており、各省庁はこのアクションプランに沿って、規定された項目を期日までに完了すべく作業を進めてきた。ホワイトハウスは、270日以内に完了する項目について、全て予定通り達成できたと発表した。(下のテーブル、一部、シェイドの部分が今回達成したアクション項目)

出典: White House

アメリカ商務省の役割

責任あるAI開発ではアメリカ商務省(U.S. Department of Commerce、下の写真)がハブ機関となり、フレームワークやガイドラインを制定している。実際には、商務省配下のアメリカ国立標準技術研究所(National Institute of Standards and Technology、NIST)が実働部門として重要な役割を担っている。更に、NIST配下に新設されたAI安全推進室「U.S. AI Safety Institute」が大規模モデル(Foundation Models)を安全に運用するための指令室となる。AI開発企業はAI安全推進室と密接に連携し、次世代モデルの安全試験を実行する。実際に、AI安全推進室はOpenAIと共同で、次世代モデル(GPT-5)に関する安全試験のプロセスを進めている。

出典: Google

AI安全推進室：モデルが悪用される危険性を防ぐ指針

AI安全推進室はNISTの配下の組織で、大統領令の発効に伴って設立され、科学技術を基盤とするAIの安全性(AI Safety)を推進することをミッションとする。AI安全推進室は大規模モデルが悪用されることを防ぐためのガイドラインを公開した(下の写真)。大規模モデルは社会に役立つ高度な機能を持つが、同時に、これが悪用されると社会に重大な危険性をもたらす。ガイドラインは、大規模モデルが悪用されることを防ぐための手順を提案している。危険性は二種類に分類され：

• 現行のリスク：危険情報、ヘイトスピーチ、同意を得ないヌードイメージの生成など
• 将来のリスク：大規模モデルによる生物兵器の開発やサイバー攻撃など

について規定している。ガイドラインは発生が予想されるリスクを説明し、これら抑止するための手順を示している。このドキュメントはドラフトとして公開され、パブリックコメントを反映し、ガイドライン最終版を開発する。

出典: U.S. AI Safety Institute

NIST：責任ある生成AIを開発するためのフレームワーク

NISTは生成AIのリスクを管理すためのフレームワーク「The AI RMF Generative AI Profile」を公開した。このドキュメントは開発企業が生成AIを安全に開発運用するためのフレームワークで、AIのリスクを特定し、その対応策をライフサイクルにわたって提唱している。開発企業はこのフレームワークに従って、モデルを設計、開発、運用、監査することで、生成AIのリスクを低減する。このフレームワークは生成AIを包括的にカバーしており、12のリスクを特定し、それに対する200のアクションを示している。フレームワークはこれらのリスクを特定する手法や、リスクに対処するための手法を規定している。(下の写真、リスクを査定する手法とリスクを軽減するためのアクションを示している。デジタル・コンテンツに関しては、出典や改造をトレースするための手法を導入することを推奨。)

出典: NIST

トランプ政権かハリス政権か

大統領令は責任あるAI開発と運用を求めており、アクション項目は多岐にわたる。米国の主要開発企業はこの規定に沿って、安全なAIを開発することをコミットしている。また、連邦政府は社会のモデルケースとして、AIを安全に導入し運用するためのベストプラクティスを実行している。トランプ政権が誕生すると、この大統領令が停止され、これらの規定が効力を失うと危惧されてきた。しかし、ハリス政権が誕生する機運が急速に高まり、大統領令が継続される公算が高まった。まだ、大統領選挙の結果を予想することは難しく、シリコンバレーはトランプ政権とハリス政権の二つのケースに対処できるよう準備を進めている。

バイデン大統領の退陣表明を受け、ハリス副大統領が民主党の大統領候補となり、選挙キャンペーンが始まった(下の写真)。ハリス氏は女性層や黒人層やＺ世代から支持を集め、人気が急上昇している。ハリス氏はシリコンバレーとの関係が深く、企業経営者やベンチャーキャピタルからの支援が急拡大している。バイデン政権ではハリス副大統領は”AI総司令官”と呼ばれ、AI政策を陰で支えている。ハリス政権が誕生すると、現行の大統領令が継続され、ハイテク企業に責任あるAI開発を求める。

出典: Kamala Harris @ X

ハリス氏とシリコンバレー

ハリス氏はカリフォルニア州オークランド出身の若い黒人女性で、サンフランシスコの司法長官を務め、シリコンバレーとの関係が深い。企業経営者とのネットワークが広く、テクノロジーに関する理解が深く、ハイテク企業から信頼されている。ハリス氏は、AIに関しては国民の権利を守ることを第一義に政策を進め、AI開発で安全性の検証を求めるが、ハイテク企業はこの指針に理解を示している。ハリス氏が民主党の大統領候補となり、トランプ氏との違いが際立ち、急速に支持を集めている。選挙演説はロックコンサートのような熱気で、有権者から熱狂的な指示を受けている(下の写真)。

出典: Kamala Harris @ X

AIに関する大統領令

バイデン政権の大きな成果がAIを安全に運用するための指針「大統領令」の制定である。大統領令は大規模言語モデルを安全に開発し運用することを規定した指針で、AIが社会に危険性をもたらさないよう、開発企業に安全試験を実施することを求めている。対象は次世代の生成AI「フロンティアモデル」で、GPT-5などこれからリリースされる製品は出荷前に安全試験が求められる。

ハリス副大統領の役割

ハリス副大統領はバイデン政権のAI総司令官(AI Czar)として政策立案を支えてきた。ハリス氏は大統領令の事実上の責任者で、AIを安全に開発運用するための指針を制作した。また、これに先立ち、ハリス副大統領は主要企業の経営者と面会し、AI製品の自主規制「Voluntary Commitment」を求めた(下の写真)。これはAI企業が製品を出荷する前にその安全性を保障することを要請するもので、GoogleやMicrosoftなどは、大規模言語モデルを公開の場で検証し、その安全性を確認することをコミットした。

出典: White House

ハリス政権のハイテク政策は

ハリス陣営はハイテク政策についてコメントを発表していないが、バイデン政権の政策を継続すると予想される。大統領令に従って、開発企業はフロンティアモデルの安全試験を実施することなる。また、ハリス氏は連邦議会への働きかけを強め、AI規制を法令として制定することを求める。ハリス氏は国民の自由や権利を守ることを第一義とし、AIのバイアスを抑止し、人種や性別で差別を受けないよう、責任あるAI開発を法令で定める方向に進むと予想される。

シリコンバレーの反応

シリコンバレーのハイテク企業経営者の多くはハリス氏を支持することを表明している。LinkedInの創業者Reid Hoffmanはハリス氏を支持し選挙キャンペーンを支援することを表明した。また、Facebookの元COOであるSheryl Sandbergも支持を表明し、ソーシャルメディアで支援メッセージを拡散している。一方、Elon Muskはトランプ陣営に月額4500万ドルの寄付をすると報道されてきたが、この事実を否定し、共和党への支持は限定的であると説明した。シリコンバレーの潮目が変わり、経営者の多くがハリス氏支持にポジションを変えている。

出典: Sheryl Sandberg @ Facebook

Z世代のリアクション

ハリス氏が大統領候補となったことで、若い世代が熱狂的に支持している。Z世代を中心に、ハリス氏の大統領選をサポートし、TikTokなどのソーシャルメディアで支援メッセージを発信している(下の写真)。ハリス氏の掲げる政策は、若い世代の心情に訴求し、夢と希望を与えてくれる大統領として、強く共感している。オバマ氏が登場した時の熱狂の再現で、ソーシャルメディアで大量のミーム(Meme)が拡散している。

出典: TikTok

バイデン大統領との相違

バイデン大統領は後継者に道を譲ったことについて、民主党支持者だけでなく、国民から幅広く称賛されている。ハリス氏は基本路線としてバイデン政権の政策を引き継ぐものの、国民に向けたメッセージは大きく異なり、有権者の心情にアピールしている。ハリス氏の主張は簡潔で、政策を分かりやすい言葉で伝え、その背後にある熱意が有権者にインパクトを与える。また、バイデン大統領やトランプ氏から年齢が大きく若返り、新時代が来ることを予感させ、これが有権者に夢と希望を与えている。ハリス人気が高まるものの、両者の支持率は拮抗しており(下のグラフ)、これから本格的な選挙戦が展開されることになる。

出典: RealClearPolitics