月別アーカイブ: 2023年1月

Amazonは「ChatGPT」の使用を禁止、チャットボットが会社の機密情報をリークする

OpenAIが開発したチャットボット「ChatGPT」は高度な言語能力を持ち、米国で利用が急拡大している。特に、企業の社員は日常業務でChatGPTを利用し、仕事の効率を上げている。社員は、業務資料の制作やプログラミングで、ChatGPTを使っている。企業内で利用が広がる中、Amazonは社員がChatGPTを利用することを禁止した。チャットボットが会社の機密情報をリークする危険性が明らかになったためである。

出典: OpenAI 

チャットボットの危険性

AmazonはChatGPTが出力するデータに会社の機密情報が含まれていると指摘する。社員がChatGPTに機密情報を入力し、これをアルゴリズムが学習し、その情報が社内に漏れることを懸念している。社員はChatGPTに機密情報を入力し、そのアップデートや修正をリクエストする。その際に、アルゴリズムは機密情報を学習し、ChatGPTが改版される。改版されたChatGPTに、社外の利用者が質問を入力すると、アルゴリズムは学習した機密情報を出力する危険性がある。

Amazon社内でのChatGPTの利用法

Amazonの社員がChatGPTを使って業務を遂行している実態が明らかになった。社員はChatGPTをプログラムのコーディングを支援するツールとして使っている。コーディングにおいて、社員はChatGPTでプログラムをデバッグし、また、ロジックを改良する。社員は開発中のコードをChatGPTに入力し、チャットボットにこれを効率化するよう指示する(下の写真、ChatGPTにコードのデバッグを指示したケース)。ChatGPTはこれに従ってコードを生成するが、アルゴリズムは入力されたコードを学習し、これを社外の利用者に出力する危険性がある。特に、コードが開発中の先進技術を含んでいれば、情報がリークした際の被害は甚大となる。

出典: OpenAI 

AmazonはChatGPTの利用を禁止

このため、Amazonは社員が会社支給のデバイスでChatGPTを使うことを禁止した。社員がこれらデバイスでChatGPTのサイトにアクセスすると、警告メッセージを表示し、セキュリティの問題があることを説明する。しかし、社員としては、ChatGPTを使うと仕事がはかどるので、会社が使用を禁止するものの、継続して使われているのが実態である。AmazonはChatGPTに対抗するAIモデル「CodeWhisperer」を開発し、これをクラウドで提供している。これはコーディング支援ツールで、アルゴリズムがプログラマの指示に従ってプログラムを生成する。社員は自社製品ではなくChatGPTを利用している。

AmazonはChatGPTの導入を検討

一方、AmazonはChatGPTをクラウド事業に導入することを検討している。Amazon Web Services(AWS)のサポート部門は、ChatGPTをサポートセンターに導入し、顧客向けの技術支援をチャットボットで実行する構想を描いている。顧客はAWSで問題が発生すると、サポートセンターにコンタクトし、技術支援を仰ぐ。この際に、エンジニアに代わりChatGPTが顧客と対話して、トラブルシューティングを実行する。現在、ChatGPTの機能を検証しているところであるが、結果は良好であるとしている。

ChatGPTの教育方法が不透明

ChatGPTの利用が急拡大しているが、OpenAIはアルゴリズムを教育するメカニズムを公開しておらず、社会に不安が広がっている。ChatGPTに入力したデータがどのように使われ、それが他の利用者にどのように出力されるのか、そのメカニズムが公開されていない。OpenAIは、大量のデータでChatGPTの言語モデル「GPT-3.5」を教育したことは分かっているが、その後、チャットボットの運用を開始してからは、利用者が入力するデータでアルゴリズムの教育が進むと推測される。このため、入力した機密情報がアルゴリズム教育で使われ、学習したデータが他の場所で出力する危険性が指摘される。実際に、OpenAIはChatGPTの利用規約の中で、利用者が入力するデータをアルゴリズム教育で使うことの許諾を求める条項がある(下の写真、シェイドの部分)。

出典: OpenAI

ChatGPTの危険性を理解して活用

ChatGPTは仕事の効率をアップするための優れたツールであるが、同時に、機密情報をリークする危険性があることが分かってきた。このため、企業はChatGPTを評価し、社内で安全に運用するためのガイドラインを策定することが必須となる。また、個人でChatGPTを利用する際は、個人の機密情報を入力することは危険である。氏名、住所、電話番号、クレジットカード番号、暗証番号などを入力すると、これが他の利用者にリークする危険性は大きい。会社と個人はChatGPTの危険性を理解して安全に活用する必要がある。

MicrosoftはOpenAIとの提携を強化、言語モデル「GPT-3」やチャットボット「ChatGPT」の開発を加速する

MicrosoftはAI研究機関OpenAIへ出資することを発表し、AI開発のブレークスルーを加速する。また、両社は研究成果をそれぞれのAIビジネスに展開するとしている。両社は既に提携関係にあり、Microsoftは2019年と2021年に出資しており、今回が三回目となり、関係を強化する。OpenAIは言語モデル「GPT-3」やチャットボット「ChatGPT」を開発しており、Microsoftはこれら先端技術をクラウドで企業に提供する。

出典: Microsoft

AIスパコン開発

OpenAIは高度な言語モデルを生み出しているが、これらはMicrosoftのAIスパコンを使って開発されている。言語モデル「GPT-3」やチャットボット「ChatGPT」はニューラルネットワークの規模が巨大で、開発では世界最速レベルのスパコンが必須となる。MicrosoftはNvidiaのGPUプロセッサ「A100」を使ってスパコンを開発し世界5位の性能を誇る(下の写真)。Microsoftはこの性能を更に向上させ、OpenAIはこの開発基盤で次世代の言語モデルを開発し、イノベーションを加速させる。同時に、Microsoftはこのスパコンをクラウド「Azure」に展開し、企業はここで大規模AIモデルを開発しそれを運用する。

出典: Microsoft

AIをクラウドで提供

MicrosoftはOpenAIが開発する最先端のAIモデルをクラウドで提供する。このクラウドは「Azure OpenAI Service」と呼ばれ、試験的に運用されてきたがこれを一般に公開する。ここでは、「GPT-3」や「ChatGPT」の他に、プログラムをコーディングするAIモデル「GitHub Copilot」や言葉の指示に従ってイメージを生成するAIモデル「 DALL·E 2」が提供される。MicrosoftはこれらのAIモデルを企業向けに提供するが、ビジネスとして安全に運用するために、セキュリティを強化し、AIの危険性を低減している。(下の写真、GPT-3でスポーツの試合のサマリーを生成している事例。)

出典: Microsoft

OpenAIへ開発環境を提供

MicrosoftはOpenAIにAI開発環境を独占的に提供しているが、今回の提携で、これを継続することを確認した。OpenAIはMicrosoftのクラウドを使って、先進技術の開発を実行するほかに、自社で事業を展開するために、AIモデルやAPIサービスをこのクラウドで顧客向けに提供する。従来はAmazon Web Servicesを使っていたが、Microsoftと提携し、これを全面的にAzureに切り替えた。

OpenAIとは

OpenAIはサンフランシスコに拠点を置く新興企業で、Sam Altman やElon MuskらがAI研究の非営利団体として、2015年に設立した。OpenAIは、人間レベルのインテリジェンスを持つAIを開発することをミッションとしており、深層強化学習(Deep Reinforcement Learning)や大規模言語モデル(Large Language Model)を中心に研究を進めている。

出典: Google Maps

OpenAIのAI開発戦略

OpenAIは非営利団体として設立されたが、経営方式を大きく変え、今では準営利団体として、最先端のAI技法の研究開発を進める。Elon Muskは2018年にOpenAIの取締役を辞任したが、投資家として関与している。Muskは、AIは「人類にとって最大の脅威」であると発言しており、人類に利するAIを研究する組織としてOpenAIを設立した。

Sam Altmanとは

また、Sam AltmanはCEOとしてOpenAIの運営に携わっている。AltmanはAIにより利益の分配が偏り、多くの人が職を失うことになると懸念している。失業者対策の一つとしてベーシックインカム(Universal Basic Income)の導入を求めており、自身でこの実証試験を進めている。(下の写真、Sam Altman(左側)とMicrosoft CEOのSatya Nadella(右側))

出典: Microsoft

MicrosoftがOpenAIに着目する理由

言語モデルは規模が大きくなると、処理性能が向上するだけでなく、多彩な機能を現すことが分かっている。GPT-3など言語モデルは「Transformer」というアーキテクチャで構築され、この規模を拡大すると、言語だけでなく、イメージやビデオやスピーチなど、他のメディアを理解する。つまり、TransformerベースのAIモデルはマルチメディアをインテリジェントに処理する機能を獲得し、社会のインフラを担う存在となる。MicrosoftはOpenAIと共同で、AIの社会基盤をクラウドで提供する構想を描いている。

ニューヨーク市は学校でChatGPTを使うことを禁止、米国AI学会はチャットボットで論文を生成することを制限

チャットボット「ChatGPT」は高度な言語能力を持ち、ニューヨーク市は学校に設置しているパソコンでこれを利用することを禁止した。地方自治体がチャットボットの利用を制限するのはこれが最初のケースで、この規制が全米主要都市のAI政策に影響を及ぼす。更に、米国のAI学会は、チャットボットで論文を生成することを禁止し、高度な言語モデルを如何に活用すべきか、議論が始まった。

出典: NY1

ニューヨーク市の規制

ニューヨーク市は、2023年1月、学校内のシステムやネットワークでChatGPTを使うことを禁止した。ニューヨーク市がChatGPTの使用を禁止した理由は、学校教育においてチャットボットが生徒の学習能力に悪影響を及ぼすと判断したためである。ChatGPTに論文のテーマを入力すると、その回答を洗練された文章で出力する。生徒は自分で苦労しながらレポートを書き上げるのではなく、ChatGPTがその作業を代行する。また、ChatGPTが出力する文章は有害な内容を含み、また、回答は事実と異なる内容を含んでいるケースも少なくない。ニューヨーク市は米国最大の学校システムで、同市の判断は他の地域の学校に大きな影響を与え、全米の教育現場でChatGPTの取り扱いについての議論が始まった。

ChatGPTとは

ChatGPTとは対話型のAIで、人間と会話しながら質問に回答する機能を持つ。人間の知識人のように、ChatGPTは難しい問題を平易な言葉で簡潔に説明する構造となっている。ChatGPTは、指定されたテーマに沿って論文や物語を執筆する。多彩な能力を発揮するが、ChatGPTは、難しい質問に平易な言葉で簡潔に説明する機能が際立っており、Googleで検索する代わりに、ChatGPTに質問する利用法が広がっている。

学校教育が機能しなくなる

実際に、教育現場の先生はChatGPTの登場で、学校教育が機能しなくなると危惧している。カリフォルニア州バークレー市の高校教師は、宿題の論文をChatGPTで制作したところ、チャットボットは及第点の文章を制作したことに驚いたと述べている。宿題で論文のテーマが与えられ、生徒はそれに沿って文章を生成する。そのテーマをChatGPTに入力すると、生成される文章の品質は、生徒が書く文章の品質を上回るだけでなく、平均的な教師の技能を上回っている。事実、典型的な高校生向けの論文テーマをChatGPTに入力すると、洗練された文章が生成される(下の写真、テーマは「グラスシーリングが社会に与える影響」)。

出典: OpenAI

ChatGPTとGoogleの違い

生徒が作文を学ぶのは、社会人になってから、自分の考えを文章で正確に表現するためで、教育の基礎要件となる。就職面接や職場でのコミュニケーションで、自分の意見を明瞭に述べることが人間の基礎能力となる。過去にさかのぼると、Googleの検索エンジンが登場した時も、同じ議論が展開された。生徒は宿題に出された課題をGoogleで検索し、それをコピペして学校に提出する。(下の写真、上述のテーマをGoogleに入力すると、参照資料が示され、これらの記事を閲覧して、回答を生成する手順となる。) 一方、ChatGPTのケースでは、テーマを入力すると全自動で回答が生成され、論理的な作業が入る余地はなく、文章を書く技量は身につかない。

出典: Google

AI学会はチャットボットの使用を制限

機械学習の学会「International Conference on Machine Learning(ICML)」は、2023年1月、高度なチャットボットで論文を執筆することを禁止した(下の写真)。ICMLは、研究目的での実験を除き、ChatGPTなど大規模言語モデル(large-scale language model)で論文のテキストを生成することを禁止した。AIの研究開発を促進する学会がチャットボットの使用禁止したことで、研究者の間で議論を呼んでいる。

出典: International Conference on Machine Learning

規制の背景

ChatGPTなど大規模言語モデルの機能が格段に向上し、チャットボットが研究者に代わり、論文を執筆することができるようになった。このため、ICMLは論文全体を大規模言語モデルで生成することを禁止した。一方、研究者の多くは、書き上げた論文を編集するためにChatGPTを利用しているが、この利用法については容認している。特に、英語を母国語としない研究者は、執筆した論文をChatGPTに入力し、スペルや文法をチェックし、表現方法を改善するが、この手法については禁止していない。

ChatGPTを使うことの是非

ICMLの規制についてアカデミアで意見が割れている。ChatGPTで論文を執筆することの是非についての議論が始まった。ICMLは、ChatGPTで論文を執筆することを禁止するが、高度なAIを有効に利用すべきとの意見は少なくない。ChatGPTは人間の言語能力に近いAIで、これを使って文章を制作した個所は、それが分かるよう脚注などにその旨を記載する、などの案が示されている。

試行錯誤が始まる

研究者の間で利用法の試験が始まり、今ではChatGPTを論文の執筆者として記載する方式も登場した(下の写真、シェイドの部分)。しかし、ChatGPTは人間ではなく、あくまでAIツールであり、この方式には違和感を覚える人は少なくない。ChatGPTは教育現場に大きな衝撃をもたらし、チャットボットの規制が広がるとともに、その最適な使い方についての実証試験が始まった。

出典: Tiffany H. Kung et al.

米国政府は消費者のプライバシー保護を強化する方向に転換、FTCはEpic Gamesに5億2000万ドルの制裁金を科す、メタバースで子供を危険から守ることが課題

米国政府はAIやメタバースなど高度なテクノロジーから消費者の権利を守る方向に舵を切った。アメリカ連邦取引委員会(Federal Trade Commission、FTC)は、ゲーム開発会社Epic Gamesが、子供のプライバシーを侵害したとして、過去最大額の制裁金を科した。バイデン政権は、国民をAIの危険性から守るための章典「AI Bill of Rights」を発表した。米国政府は、自国の先進技術を優先する政策を取ってきたが、今年は国民の権利を守ることを重点とする方向に政策を転換した。

出典: Epic Games

Epic Gamesへの制裁金

FTCは、人気ビデオゲーム「Fortnite」(上の写真)の制作者であるEpic Gamesが、児童オンライン保護法「Children’s Online Privacy Protection Act (COPPA)」に違反したとして、5億2000万ドルの制裁金を科した。COPPAとは1998年に制定された法令で、オンラインサービスで13歳以下の子供の個人情報を収集することを制限している。Epic Gamesのケースでは、保護者の同意を得ることなくFortniteをプレーした13歳以下の子供の個人情報を収集したことがCOPPAの規定に違反していると判定された。

制裁金の内訳

制裁金は、COPPAの規約に違反したことによる罰則金2億7500万ドルと、消費者への返金2億4500万ドルという、二つの部分から構成される。どちらもFTCが課した過去最大額の制裁金となる。前者はCOOPAの規約に違反したことによる罰則金で、後者は利用者が「ダークパターン(Dark Patters)」といわれる手法などで、意図に反して購入させられたアイテムに対する払戻金となる。

消費者を欺く手法

ダークパターンとは消費者を欺くデザインを総称する言葉として使われる。Fortniteだけでなく、ウェブサイトやオンラインサービスで導入されており、消費者を騙し、商品などを購入させることを目的としたデザインを指す。Fortniteのケースでは、ゲームのキャラクターに着せるアイテムを購入するサイトでダークパターンが使われている。アイテムを試着して、気に入らない場合には「Undo」ボタン(下の写真、左下のボタン)を押すと、購買を解約できる。しかし、この「Undo」ボタンが表示される時間は短く、気が付くとボタンが消滅し、不本意にアイテムを購入させられることになる。

出典: Epic Games

Epic Gamesの主張

これに対してEpic Gamesは、FTCと和解した背景についてステートメントを発表した。これによると、COPPAは数十年前に制定された法令で、技術進化から取り残され、ゲームシステムの運用については規定していない。Epic Gamesはゲーム業界の慣行に従って、システムを開発しているが、法令は変わっていないが、FTCは新しい解釈を示した。Epic Gamesは、消費者保護を前面に打ち出して事業を展開しており、新たな解釈に従ってFTCと和解した。

子供向けのメタバース

Epic Gamesの創設者であるTim Sweeneyは、ゲーム企業からメタバース企業に転身すると述べ、ゲームエンジン上に仮想社会を構築し、メタバース事業を進めている。この仮想社会でコンサート(アリアナ・グランデのツアー)やカンファレンスなどのイベントが開催され、Epic Gamesはメタバース開発で業界をリードしている。また、Epic Gamesは、子供向けに安全なメタバースの開発を重点的に進め、LEGO Groupと提携して、子供や家族が楽しめる安全な仮想社会を開発している。

出典: Epic Games

FTCとは

FTCはアメリカ連邦政府の独立機関で、反トラスト法に基づく不公正な競争の制限と、消費者保護の推進を任務としている。消費者保護では、個人のプライバシーや個人情報を保護することがミッションとなる。特に、AIの危険性から消費者を守ることを重点的に進めており、アルゴリズム利用に関するガイドラインを発表し、不公正な利用を法令で取り締まる指針を発表した。

バイデン政権

バイデン政権はAIを規制する方向に転じ、2022年10月、「AI Bill of Rights(AI権利章典)」を公開した。AI Bill of Rightsとは、米国政府のAI規制についての指針を示したもので、各省庁がそれぞれの実態に応じて、法令や規約を制定してAIの危険性から国民を守る。AI Bill of Rightsは、EUの「AI Act」に対応するもので、米国政府はAIを規制する方向に政策を転換した。

出典: White House

方針転換の背景

米国においてGAFAMなど巨大テックがAI新技術を生み出しており、今までは、規制よりイノベーションを優先する政策を取ってきた。しかし、バイデン政権はこの指針を見直し、米国市民の権利を優先することを選択した。欧州に比べ米国はAI規制が緩やかであったが、2023年からは、巨大テックやIT企業は責任あるAI開発が求められる。