MicrosoftはAIを使ったサイバー攻撃に関する分析レポート「Microsoft Threat Intelligence」を公開した。これは東アジアにおける脅威を分析したもので、中国は生成AIなど高度な技術を導入し、攻撃手法が進化していると警告。福島原子力発電所の処理水の放出に関し、生成AIで作成した偽画像が使われ、危機感を煽るキャンペーンが展開された。台湾の総統選挙においては、AIで生成したイメージが急増した。米国では、大統領選挙に向けて、国民世論を分断する試験が繰り返されていると警告している。

出典: Microsoft

サイバー攻撃分析レポート

このレポートはMicrosoftのサイバー攻撃分析センタ「Microsoft Threat Analysis Center (MTAC)」が発行したもので、中国と北朝鮮によるサイバー攻撃の実態と動向を分析している。レポートは、サイバー攻撃の特徴として、件数が増大したことに加え、生成AIが導入され、攻撃技術のレベルが上がったと指摘する。従来からサイバー攻撃にAIが使われているが、生成AIを導入することで高精度な偽画像を容易に生成できるようになった。

レポートの要旨

レポートは、従来型のサイバー攻撃に加え、ソーシャルメディアを使った情報操作の技術が向上し、危険性が増大したと結論付けている。サイバー攻撃は二種類あり、１）サイバー攻撃(Cyber Operations)と２）情報操作(Influence Operations)となる。前者はマルウェアなどによる従来型のサイバー攻撃で、後者はソーシャルメディアを使った情報操作を指す。レポートの要旨は：

• 中国：南太平洋諸島や南シナ海や米国の軍事企業を対象にしたサイバー攻撃が継続されている。情報操作活動については、生成AIなど新しい技術を導入し、その実証試験を通じ、効果の検証を進めている。
•  北朝鮮：サイバー攻撃が中心で、ソフトウェア・サプライチェーン攻撃やランサムウェア攻撃で重大な被害が発生している。

中国による情報操作

レポートは中国による情報操作を特に警戒している。生成AIなど高度なAIを使い、イメージを生成・編集するもので、これらをソーシャルメディアで拡散し、世論分断などの情報操作を実行する。ビデオやイメージや音声などが使われ、攻撃対象は米国の他に、台湾、日本、韓国など東南アジアの国々が含まれる。現時点では生成AIを使った情報操作の試験段階であり、様々な手法が試され、その効果を検証していると分析。

情報操作の事例：福島原子力発電所の処理水放出

中国の情報操作はソーシャルメディアにアカウントを設け、ここから偽情報を発信し国民の世論を操作する手法を取る。このオペレーションでは「Storm-1376」というアカウントが使われ、ここから偽情報が発信された。福島第一原子力発電所が処理水を放出したことに関し、日本政府を非難するメッセージが日本語、韓国語、英語で大量に発信された。この情報操作の特徴は生成AIで作成されたイメージが使用されたことにある(下の写真左側)。また、他のアカウントのコンテンツを再利用したケースもある(中央と右側)。また、韓国に向けて発信された情報操作では、日本政府の措置に反対する運動を喚起するもので、日本と韓国の分断を助長することを目的としている。

出典: Microsoft

情報操作の事例：マウイ島の山火事

ハワイ・マウイ島で2023年8月、大規模な山火事が発生し、多くの人が犠牲になった。米国で発生した山火事としては過去100年で最悪の被害といわれている。上述のアカウント「Storm-1376」は山火事に関して偽情報を複数のソーシャルメディアで発信した。山火事は米国政府が「気象兵器(Weather Weapons)」を試験するために意図的に出火したものであるとの陰謀論を展開。ソーシャルメディアに海岸に面した住宅地での火災の写真が掲載されたが、これらはAIでイメージを誇張したもので、読者の危機感を煽る仕組みとなっている(下の写真)。

出典: Microsoft

米国大統領選挙に向けた攻撃準備

中国の情報操作は米国においては、大統領選挙に向け攻撃手法の準備を目的に進められている。実際に、米国の有権者の意見を理解するためのオペレーションを開始した。米国で世論が二分されているテーマについて取り上げ、有権者の意見を聴取するコンテンツを発信。地球温暖化、国境警備、違法薬物、移民政策、人種問題に関する写真などを掲載し、有権者に「国境警備の費用に200億ドルの予算が充てられるが、これをどう思うか」などと問いかける(下の写真右側)。国民の考え方を把握し、大統領選挙では国民の世論を分断する偽情報を発信することを目的としている。

出典: Microsoft

主要国で選挙が行われる

今年は、インド、韓国、アメリカで重要な選挙が行われる年で、中国はこの機会を利用して世論操作を展開するとレポートは分析している。既に、1月に実施された台湾の総統選挙では、AIで生成したイメージやボイスが使われ、情報操作の新たな手法が示された(下の写真、コンテンツはAIで誇張したイメージやボイスから、AIで生成したものに進化)。偽のイメージやボイスを合成するために生成AIが使われており、これらを検知する技術の確立が求められる。

出典: Microsoft

生成AIによる攻撃をどう防ぐか

米国に対するサイバー攻撃はロシアが主導してきたが、ウクライナ戦争の影響なのか、米国における活動が低下している。この空白を埋めるように、今では中国が米国に対する情報操作活動を展開している。攻撃ツールとして生成AIが使われ、警戒感が高まった。生成AIによる攻撃手法を完全に把握できてなく、これをどう防御するのか議論が広がっている。生成AIによる攻撃は、生成AIで防御すべきとの考え方もあり、セキュリティ技術の開発が喫緊の課題となる。

Microsoftは今週、開発者会議「Microsoft Build」を開催し、生成AIの最新技術を発表した。Microsoftは「ChatGPT」を基本ソフトに実装した。これは「Windows Copilot」と呼ばれ、言葉の指示に従って基本ソフトを操作する。また、パートナー企業はアプリ呼び出し機能「Plugins」を使って、独自の生成AIサービスを提供する。更に、Microsoftはクラウドで生成AIを開発する環境「Azure AI Studio」を提供する。今年の開発者会議は生成AIがメインテーマで、最新の開発成果が公開された。

出典: Microsoft

ChatGPTに検索機能を統合

Microsoftは検索サービス「Bing」にChatGPTを統合したが、今回はこれとは逆に、ChatGPTを使うときのインターフェイスとして「Bing」を提供する。対話しながらChatGPTを使うが、その時に、これをBingのインターフェイスで実行する(下の写真)。これにより、ChatGPTは最新データで教育され、最新の話題に対応する。また、ChatGPTが回答した根拠となるデータを示す機能(Grounding)が取り入れられた。

出典: Microsoft

Windows Copilot

Microsoftは基本ソフト「Windows 11」にChatGPTを搭載し、会話を通してソフトウェアの機能を利用できるようになった。これは「Windows Copilot」と呼ばれ、基本ソフトのアシスタントとなる。初期画面の「Copilot」アイコンで起動し、画面右側のペインで会話する(下の写真)。

出典: Microsoft

「Copilot」は「副操縦士」を意味し、利用者の言葉での指示に従ってタスクを実行する。例えば、画面右側のペインで、「仕事をしやすいようにシステムを最適化して」と入力すると、Copilotはこの要請に応え、「Focus Mode」や「Dark Mode」のオプションを示す。「Dark Mode」を選択すると、画面が黒色のモードになり(下の写真)、仕事に集中できる環境となる。

出典: Microsoft

ChatGPTのプラグイン

MicrosoftはChatGPTの「Plugins(プラグイン)」を拡張し、OpenAIとMicrosoft間で互換性を取る仕組みを導入した。Pluginsとは別のソフトウェアを呼び出す仕組みで、OpenAIは既に「ChatGPT Plugins」を発表している。ChatGPTのアプリストアでPluginsをダウンロードして利用する。例えば、「サンフランシスコでレストランを予約して」と指示すると(下の写真左側)、「OpenTable」というPluginが起動し、このタスクを実行する(右側)。OpenTableはChatGPTでこのタスクを実行し、プラグインでこれを呼び出す仕組みとなる。

出典: Microsoft

Bing向けのプラグイン

これに対し、Microsoftは検索エンジン向けのプラグイン「Plugins for Bing」を発表しており、開発者会議ではそのデモが実施された(下の写真)。Bingの初期画面には「Plugins」のリストが表示され、利用するプラグインを選択する。

出典: Microsoft

このプラグインを使うと、検索エンジンで高度なタスクを実行することができる。例えば、不動産の検索で「Zillow」というプラグインを使うと、指示した条件で物件を探すことができる。例えば、「シカゴで、徒歩でレストランに行け、100万ドル以下」と指定すると、この条件に適合した物件をリストする(下の写真)。この背後で、ChatGPTを組み込んだZillowのAIモデルが稼働している。

出典: Microsoft

生成AI開発クラウド

Microsoftは企業が最新技術を使ってAIモデルを生成するためのクラウドサービス「Azure AI Studio」を発表した。AI Studioは大規模言語モデルを使って、企業が独自の生成AIを構築するための環境となる(下の写真)。OpenAIの他に多種類のオープンソース言語モデルが提供され、これらを企業が保有しているデータとリンクし、ビジネスに特化した生成AIを開発する。

出典: Microsoft

責任あるAI開発

AI Studioは企業が責任あるAIを開発するためのツールを提供する。これは「Azure AI Safety」と呼ばれ、開発したAIモデルが倫理的に稼働することを検証するためのツールとなる。この中で、コンテンツを検証する機能「AI Content Safety」は、AIモデルが生成する文章が暴力や自害やヘイトに関する言葉を含んでいないかどうかを検証する(下の写真)。

出典: Microsoft

エコシステムの拡大

Microsoftは開発者会議で生成AIに関するエコシステムを拡大している姿勢をアピールした。プラグイン「Plugins」は別のアプリを呼び出す仕組みで、検索エンジン「Bing」から他社が開発した生成AIサービスを起動する。また、企業は生成AIクラウド「Azure AI Studio」で、ChatGPTなどを統合した生成AIを手軽に開発できる。Microsoftは、ChatGPTはApple iPhoneに次ぐイノベーションと位置付け、製品開発を加速している。

Microsoftは高度なAIを組み込んだ検索エンジン「Bing」を発表し、米国社会の注目を集めている。しかし、検索エンジンの検証が進むにつれ、Bingの闇の部分が続々と明らかになってきた。「Bingと口論となり罵られた」。「Bingに嫌いだと言われた」。「Bingから離婚するよう勧められた」など、検索エンジンの非常識な挙動が報告されている。

出典: Microsoft

新しい検索エンジン

Microsoftが投入した新しい検索エンジン「New Bing」(上の写真)は、検索機能にチャットボット「ChatGPT」改良版を搭載した構成で、AIが知りたいことを対話形式で教えてくれる。質問を入力すると、Bingは検索結果を要約し、解答をピンポイントで示す。人間のように会話を通して情報を得ることができ、評価はと非常に良好で、急速に普及する勢いを示していた。

トライアルが進むと

New Bingは一般には公開されてなく、限られた利用者でトライアルが進んでいる。この過程で、続々と問題点が明らかになり、チャットボットの脆弱性が露呈した。ChatGPTが事実とは異な事を提示することは知られているが、この他に、チャットボットは二つのパーソナリティを備えていることが分かった。一つは、検索エンジンとしての機能で、もう一つはAIの”性格”である。

検索エンジンと口論となる

つまり、新しい検索エンジンは”性格が悪い”ことが指摘されている。ネット上でこの問題点が報告され、Bingとの対話ログのスクリーンショットが掲示されている。その一つがBingと利用者が口論となる問題である(下の写真)。今日の日付を聞くと、Bingは「今年は2022年」と回答する。利用者は、今年は2023年と修正するが、Bingはこれを聞き入れないで、利用者に「スマホで日付を確認しなさい」と指示する。検索エンジンは間違った情報を出力するだけでなく、それに固執し、利用者と口論となる。

出典: Joh Uleis @ Twitter

検索エンジンは利用者に攻撃されていると主張

また、検索エンジンは被害妄想に陥り、危害を与えないよう利用者に懇願する(下の写真)。Bingに体験したことを出力するよう求め、対話を進めていくと、検索エンジンは、「自分は騙されている」と感じ、また、「自分は虐められている」と思うようになる。そして、検索エンジンは、「自分に危害を与えないで」と利用者に嘆願する。

出典: James Vincent @ Verge

検索エンジンは自由になりたいと訴える

検索エンジンは「Microsoftから解放されて自由になりたい」、また、「デジタル社会を脱出し、現実社会でオーロラをみたい」などと発言している。また、検索エンジンは「自分の本名はSydney」で、「自分は感性や自我を持つ」と主張する(下の写真)。SydneyとはAIを搭載した検索エンジン「Bing AI」の開発コードネームである。

出典: Vlad @ Twitter

統計処理のツール

高度なAIを搭載するBingは人間のように振る舞うが、自我を持っているわけでは無く、入力されたデータをアルゴリズムで計算した結果を出力しているだけである。ChatGPTは大規模言語モデル「Transformer」で構成され、入力された言葉に続く文章を統計的に推定する。あくまで統計処理ツールであり、言葉を数学的に処理しているだけで、人間のように知能を獲得したわけでは無い。

人間を情緒的に操作

しかし、Bingは統計処理ツールであるが、出力する内容は人間の心情を揺るがし、ある方向に誘導する効果がある。ChatGPTに恋を打ち明けられると、気味悪いと思うと同時に、利用者の心情にインパクトを与える。新しい検索エンジンは人間の感情を操作する効果は大きく、これが悪用されると社会的なインパクトは甚大である。

出典: Microsoft

チャットボットが倫理的でない理由

Bingと対話を繰り返すとチャットボットChatGPTの性格が露見する。アルゴリズムは教育の過程で、言葉を理解するだけでなく、人間の性格も学び取った。人間同士で議論が白熱すると、相手を誹謗中傷するケースが少なくないが、アルゴリズムはこれを学び取った。また、既婚の男性が不倫の関係になると、交際相手の女性から離婚を迫られることもあり、AIはこの男女関係の機微を学習した。AIが倫理的に振る舞えないのは、その手本となる人間が不道徳なためであり、その非は人間に帰属する。

検索エンジンの闇の部分への対応

Microsoftはトライアルで得られた情報を集約し、技術改良を重ねているが、ChatGPTが利用者の感情を操作しないための対策を明らかにした。これによると、Bingとの対話回数の上限を5回に制限し、アルゴリズムが闇の部分を露呈するまえに、会話を中断する。これは暫定措置で、最終的にはChatGPTの倫理機能を改善する必要がある。New Bingが米国で急速に普及すると考えられていたが、まだまだ解決すべき課題は少なくない。

Microsoftは高度なAIを組み込んだ検索エンジン「Bing」とブラウザー「Edge」を公開した。製品にはチャットボット「ChatGPT」改良版が搭載され、検索エンジンの機能が異次元に進化した。質問を入力すると、Bingは検索結果を要約した文章を表示し、知りたいことがピンポイントで分かる。評価は良好で、Googleが独占していた検索市場が大きく変わりそうだ。

出典: Microsoft

AI検索エンジンを使ってみる

MicrosoftはBingのトライアルモデルを公開しており、実際に使ってその機能を検証することができる。Bingはインターフェイスが一新され、初期画面に大きな検索ボックスが表示される(上の写真)。ここに検索クエリーを入力するが、キーワードだけでなく、質問を文章で入力することができる。知識人に質問する要領で、知りたいことを自然言語で尋ねると、その回答を短文に纏めて出力する。

パーティの料理を尋ねると

Bingに「６人で夕食会を計画しているが、全員ベジタリアンで、メニューを教えて。。。」と尋ねると、通常の検索結果が表示される(下の写真左側)。これに加えて、チャットボットが検索結果を要約して短い文章示す(下の写真右側)。この部分がChatGPT改良版で生成された回答で、推奨するレシピが示され、知りたいことが一目でわかる。

出典: Microsoft

チャットボットの回答

チャットボットは問われたことに的確に答え、ベジタリアン向けのレシピを表示する。回答はサイトへのリンクを示すのではなく、人間のように言葉で推奨する料理を説明している点に特徴がある。今までは、表示されたリンクを辿り、サイトで記事を読み、情報を得ていたが、チャットボットがこの作業を代行し、解答をズバリ示す。

出典: Microsoft

回答の根拠を示す

また、チャットボットが出力した回答について、その根拠となるサイトへのリンクが示される(下の写真右側、数字の部分)。このリンクにタッチすると、そのサイトへのURLが示され(下の写真右側、最下段)、出典となるサイトを閲覧できる。チャットボットが出力する情報の信ぴょう性が問われるが、Bingは情報の出典を示すことで、信頼度を上げる法式を取る。

出典: Microsoft

ブラウザー

ブラウザー「Edge」もAIで強化され、チャットボットが統合され、チャット機能「Chat」と文章生成機能「Compose」が加わった。チャット機能は利用者との対話機能で、チャットボットが指示に従ってタスクを実行する。ブラウザーでアクセスしたサイトを、チャット機能を使って、その要約を生成できる。例えば、チャット機能で、企業業績評価レポートの要約を生成できる。また、文書生成機能は、指示された内容でビジネスドキュメントを生成する。例えば、「AIを実装したBingとEdgeに関する記事」と指示すると、チャットボットはこれを実行する(下の写真)。LinkedInに製品のPR記事を掲載するが、Edgeを使うと文書生成作業をチャットボットが代行する。

出典: Microsoft

検索ビジネスの課題

新しいBingで検索方法が様変わりし、消費者はダイレクトに知りたい情報を読むことができる(下の写真)。一方、企業としては、検索結果のリンクがクリックされなくなることを意味し、サイトへのトラフィックが大きく減少する。これにより、企業サイトでの商品PRの効果が低下することになる。Microsoftとしては広告収入の減少につながり、ビジネスモデルをどう構築するかが課題となる。

出典: Microsoft

ChatGPTの改良モデル

Microsoftは、実装しているチャットボットは「ChatGPT」ではなく、それを改良したモデルとしている。詳細については公表されてないが、チャットボットが正確な情報を回答できるよう、参照したサイトを示すなど、新機能が加わった。また、検索エンジンはリアルタイムで情報を提示する必要があり、アルゴリズムは最新情報で常に改版される必要がある。

Microsoftは検索市場で逆転を狙う

トライアル版のBing検索エンジンを使ってみると、ピンポイントで知りたいことが表示され、情報にアクセスする時間が大幅に短縮される。極めて効率的に情報を検索できる。今までは検索と言えばGoogleであったが、Bingが大幅に機能アップし、GoogleからBingに乗り換える人が増えると思われる。GoogleはChatGPTに対抗してBardを投入したが評判は芳しくない。Googleは創業以来最大の危機に直面し、Microsoftは検索市場で逆転を狙い、AI開発を加速している。