2022年のノーベル物理学賞は「量子もつれ(Quantum Entanglement)」という現象を実験で証明した研究者三人に授与された。量子もつれとは、二つの量子(物理特性の最小単位)が離れていても、両者の動きは連動しているという現象を指す(下のグラフィックス)。二つの量子が遠く離れていても、この現象が起こり、光の速度を超えて情報が伝達することになる。アインシュタインはこれを「奇怪な動き」と呼び、量子物理学は不完全な体系であるとの論文を公開した。

出典: The Royal Swedish Academy of Sciences

三人の受賞者

アインシュタインを中心に議論が続く中、三人の科学者は実験により、量子もつれという現象が起こっていることを証明した。受賞者はアメリカのジョン・クラウザー(John Clauser)博士、フランスのアラン・アスペ (Alain Aspect)教授、オーストリアのアントン・ツァイリンガー(Anton Zeilinger)教授(下の写真)。クラウザー博士は量子もつれを実験で証明し、アスペ教授は実験方法を改良し、ツァイリンガー教授は量子もつれを情報工学に応用し、「量子テレポーテーション(Quantum Teleportation)」と呼ばれる送信技術を考案した。

出典: The Royal Swedish Academy of Sciences

受賞の意義

アインシュタインは量子もつれを「奇怪な動き(spooky action at a distance)」と呼び、量子力学は未完の体系で、この理論は正しくないとする論文「EPR Paradox」を他の研究者と共に1935年に発表した。これ以来、量子もつれについて議論が続いてきたが、受賞者はこれを実験で証明し、この奇怪な現象が起きていることを示した。直感では理解できない物理現象であるが、量子もつれは量子コンピュータや量子通信の基礎技術として幅広く使われており、ノーベル賞の選考委員会は、この実験が量子情報科学の発展に寄与したことを評価した。

量子もつれとは

量子もつれとは、二つの量子が連携した状態で、極めて特異な動きをする性質を指す。量子はランダムに動くが、二つの量子が量子もつれの状態となると、その挙動が同期する。例えば光の最小単位である光子(Photon)が、量子もつれの状態になると、二つの光子が同期して動く。一つの光子が縦方向に偏向すると、他の光子も同じ方向に偏向する。まるで二つの量子が見えない糸で繋がっているかのような挙動を示す(先頭のグラフィックス)。

隠れた変数理論

量子もつれは奇怪な挙動で、これを説明するために別の理論が提唱された。これは「隠れた変数理論(Hidden Variables)」と呼ばれ、この奇怪な現象の背後には、分かっていない変数があるという考え方。量子もつれを、実験者が観測できない変数を導入して、この挙動を説明する理論となる。スウェーデン王立科学アカデミー(Royal Swedish Academy of Sciences)は、量子もつれという現象を、ボールを投げるマシンで説明している(下のグラフィックス)。マシンには白と黒のボールが入っており、Bob(右の人物)が黒色のボールを受け取ると、Alice(左の人物)は白色のボールを受け取ったことが分かる。隠れた変数は「色」で、量子もつれには「色」という変数が隠れており、これを観測できていないという理論。

出典: The Royal Swedish Academy of Sciences

量子力学の理論

これに対して量子力学(Quantum Mechanics)では、マシンに入っているボールの色は白と黒が混ざった灰色で、ボールを受け取った時点で初めて、その色がランダムに白色または黒色になるという理論(下のグラフィックス)。Bobがボールを受け取ると、その時点でボールは黒色であることが分かる。この結果、Aliceは白色のボールを受けっとったことが分かる。

出典: The Royal Swedish Academy of Sciences

ベルの不等式

二つの理論が議論される中、両者の理論のどちらが正しいかを実験で証明することができるとの考え方が提唱された。これは英国の科学者ジョン・スチュワート・ベル(John Stewart Bell)が1964 年に、提唱したもので、「ベルの不等式(Bell Inequalities)」と呼ばれている。隠れた変数理論では、実験結果が特定の値(2)を超えないというもので、反対に、実験でこの値を超えると、量子力学の理論が正しいことが示される。

ジョン・クラウザーの実験

ジョン・クラウザーは、ベルの不等式の理論に基づき、量子もつれ証明するための実験を行った。実験では量子として、光の最小単位である光子(Photon)を使った。カルシウムの原子に特定波長の光を照射すると、二つの光子を量子もつれの状態にすることができる。二つの光子を二つのセンサーで偏光の方向を計測する(下のグラフィックス)。計測を重ねることで、実験結果はベルの不等式の条件に反することが分かり、量子力学が正しいことが実証された。

出典: The Royal Swedish Academy of Sciences

アラン・アスペの実験

その後、アラン・アスペはクラウザーの実験精度を高め、量子力学の理論が正しいことを確認した。アスペは量子もつれの光子を高速で生成する技術を開発し、また、センサーの設定を変えることで、システムは事前に結果に関する情報を得ていないことを証明した(下のグラフィックス)。

出典: The Royal Swedish Academy of Sciences

アントン・ツァイリンガーの研究

アントン・ツァイリンガーは量子もつれを応用した情報処理技術を開発した。これは「量子テレポーテーション(Quantum Teleportation)」と呼ばれ、量子の情報を遠隔地に送信する技術である。これが今日の量子通信技術や量子セキュリティ技術で使われている。

EPRパラドックス

アインシュタイン(Albert Einstein)は、量子もつれは起こりえない事象だとして、同僚の研究者ボリス・ポドリスキー(Boris Podolsky)とネイサン・ローゼン(Nathan Rosen)と共に、この現象を検証した。1935年、検証結果を発表し、量子力学は現実を記述するには完成された体系ではない、との解釈を示した。この考え方は三人のイニシャルを取って「EPR Paradox」と呼ばれている。アインシュタインは、量子力学は自然界の現象を完全に記述するものではなく、統合した理論があるとの考え方を示した。

クラウザー博士の人となり

クラウザー博士は、カリフォルニア大学バークレー校(University of California, Berkeley)で長年にわたり研究に従事し、現在は、サンフランシスコ郊外のウォールナットクリークで活動を続けている(下の写真)。地元テレビ局のインタビューで、実験開始のきっかけを明らかにした。クラウザー教授は、まず、ジョン・スチュワート・ベルに連絡し、ベルの不等式が破られていないことを確認し、実験に着手した。その当時、実験は「アインシュタインの理論を覆す無謀な挑戦」といわれ、実験で量子もつれを実証できた時は「有罪判決から解放された気分であった」と述べた。無名の研究者が歴史上の人物に挑戦した構図となった。

出典: Terry Chea / Associated Press

量子情報科学の基礎

量子もつれを実験で実証したことは、現在開発が進んでいる量子情報科学へ道筋をつけたことを意味する。量子もつれは、量子計算、量子通信、量子ストレージなどに応用され、特に、ハッキングできない安全な通信技術として社会に貢献している。

【参考情報：量子コンピュータで実行すると】

量子もつれ

量子コンピュータで量子もつれを生成し、その結果を出力すると、その挙動をビジュアルに理解できる(下のグラフィックス)。これは量子プログラム開発環境「Qiskit」を使ったもので、量子コンピュータのゲート操作(上段)とその結果が表示(下段)される。これはQubit[0]とQubit[1]に対するゲート操作で、二つのQubitを量子もつれにし、その結果が球体「Q-sphere」(下段右側)に示されている。演算によりQubit[0]とQubit[1]のスピンの方向はどちらも下向き｜11＞であることを示している。この演算を繰り返し実行すると、Qubit[0]とQubit[1]のスピンの方向はどちらも上向き｜00＞である確率が50％で、どちらも下向き｜11＞である確率が50％となる(下段左側のグラフ)。つまり、量子もつれは、Qubitのスピンの向きは、常に同じ方向であることを示している。

出典: IBM

量子テレポーテーション

量子もつれを応用した技術が量子テレポーテーションで、ある場所から別の場所に情報を送信するアルゴリズムとなる。SF映画に登場するテレポーテーションは人や物が移動するが、量子テレポーテーションでは情報(Qubitの状態)を遠く離れた場所に移動させる技術となる。量子テレポーテーションは量子もつれを応用した技法で、量子コンピュータでこの現象を実行できる(下のグラフィックス)。これは量子テレポーテーションのゲート操作で、三つのQubit(q0, q1, q2)を使う。処理は左から右側に進み、ゲート操作を実行すると、q0の情報がq2にテレポーテーションする。ゲート操作でq1とq2が量子もつれとなる。量子テレポーテーションは量子通信技術に応用され、ハッキングできないセキュアな通信として使われている。

出典: IBM

TeslaはAI技術を発表するイベント「Tesla AI Day 2022」を開催し、ロボットの開発状況を明らかにした。このロボットは「Optimus」と呼ばれ、昨年のイベントではそのプロトタイプが公開された。今年は、その開発プラットフォームが登場し、ステージの上をゆっくりと歩くデモが実施された(下の写真)。Elon Muskはロボットを大量生産する計画で、価格はクルマより安く、2万ドルになるとの予測を示した。更に、経済生産性の観点からは、ロボットはクルマより重要で、Teslaはロボット会社に転身することを暗示した。

出典: Tesla

Optimusとは

Teslaが開発しているロボット「Optimus」は、人間の骨格を模したヒューマノイドで、二足歩行し、両手でものを持つことができる。人間は自然界で進化し、骨格や関節や筋肉などが最適化され、効率的に動くことができる。Optimusは最適化された人間の物理構造を参考に設計された。ロボットは配送センターで荷物を運び、また、製造工場では部品の組み立てなどに使われる。(下の写真、Optimusが両手で荷物を持ち、それを運んでいるシーン。)

出典: Tesla

ロボットの構造

ロボット(下の写真中央)は、人間の筋肉に相当するアクチュエータ(赤色の部分)と、神経系に相当する電気系統(水色の部分)から構成される。28のアクチュエータを搭載し、人間の動きを再現する。電気系統ではバッテリーを搭載し、また、ロボットの頭脳としてTeslaが設計した半導体(SoC)を実装する。通信技術としてはWi-FiとLTEを採用するとしている。

出典: Tesla

視覚とナビゲーション

ロボットはカメラを搭載しており、周囲を撮影しオブジェクトを把握する。ロボットがプランターの植物に水をあげる時には(下の写真左側)、植物の位置を認識し(右側)、じょうろを的確に動かす。また、屋内を移動するときには、カメラで家具などのランドマークを認識し、安全なルートを算出する。ここには、Teslaの自動運転技術が使われているとしているが、技術詳細は公開されなかった。

出典: Tesla

アクチュエータ

Teslaは人間のように効率的に動けるヒューマノイドを目指していて、このためにアクチュエータの最適なデザインを模索している。アクチュエータは人間の筋肉に相当し、その動きは速度とトルクの関係で定義される。センサーでそれらを計測し、一番効率的に動かすための関係を検証した。その結果、アクチュエータの種類を６とし、解析結果をもとに最適なデザインを開発した。(下の写真、６つのアクチュエータは色分けして示されている。グラフはそれぞれのアクチュエータの速度とトルクの関係。)

出典: Tesla

開発過程

昨年のイベントではOptimusのプロトタイプ(下の写真左側)が紹介され、今年はその開発プラットフォーム(中央)を中心に、開発状況が示された。更に、最新版のOptimus(右側)がステージに登場したが、実際に歩行することはできなかった。

出典: Tesla

最新版のOptimus

ライブデモの代わりに、Teslaは最新版Optimusが研究室で歩行訓練をしている様子を公開した。2022年4月に、最初の一歩を踏み出し、技術開発を進め、腕を振り、つま先をあげることができるようになったが、まだ歩くことはできない。最新版Optimusは、アクチュエータやバッテリーなど必要なハードウェアを搭載しており、現在、ソフトウェアを中心に技術開発を進めている。

出典: Tesla

ロボットを開発する理由

イベントでMuskは、Optimus(下の写真)は経済生産性を二けた向上することができると、繰り返し述べた。ロボットが人間に代わり、荷物を運び、部品を組み立てることで、経済生産性が大きく向上する。ビジネスの観点からは、クルマよりロボットのほうが、将来性があると述べ、Teslaはロボット企業に転身することを示唆した。

出典: Elon Musk

Muskの発言の解釈

Muskの発言が業界に衝撃を与えているが、同時に、これをそのまま受け止めるのではなく、割り引いて解釈すべきとの意見も少なくない。Muskは壮大な構想を打ち出し、社会の注目を集めるが、これが不発に終わるケースは少なくない。また、Optimusは優秀なエンジニアを雇い入れるためのPRだという解釈もある。Muskの発言は、厳密なロードマップとは異なり、柔らかい構想を示したもので、これをどこまで実現できるのか、ウォッチしていく必要がある。

米国でテキストをイメージに変換するAIで事業が生まれている。これは、言葉の指示に従ってイメージを生成するAIで、描きたい内容をテキストで入力すると、アルゴリズムはそれに沿った画像を生成する。この手法でコミックブックが制作され、販売が始まった。著作者はコミックブックの著作権を申請し、これが認められた。AIが描き出すイメージが著作権で保護されることになり、AI出版が大きな事業になると期待されている。一方、これに慎重な姿勢を示す企業は多く、AIで生成されるイメージの販売禁止も広がっている。

出典: Kris Kashtanova

コミックブック

このコミックブックは「Zarya Of the Dawn」というタイトルで、Kris Kashtanovaにより制作された。主人公Zarya(上のイメージ)が、未来のニューヨーク(下のイメージ)を探訪するストーリーとなっている。これらのグラフィックスはAIにより生成され、ここにセリフを付加して、物語を構成し、コミックブックが創られた。アーティストが画面を描き出す代わりに、AIがイメージを生成した。

出典: Kris Kashtanova

製作者プロフィール

このコミックブックを制作したのはニューヨークを拠点に活動しているKris Kashtanovaで、職業は「Prompt Engineer」としている。テキストをイメージに変換するAIを使い、最適な入力文(Prompt)を見つけ、印象的なグラフィックスを生成するエンジニアとなる。

著作権を申請

Kashtanovaは、制作したコミックブックを著作権物として申請した。米国著作権局(United States Copyright Office)は、今週、これを認可し、コミックブックが著作物として登録された。これにより、「Zarya Of the Dawn」は、著作権法による保護の対象となった。AIが生成したイメージが著作権で保護されるのはこれが最初のケースで、AI出版事業への道筋が開けると期待されている。

過去の事例

AIが生成したイメージに対する著作権申請はこれが最初ではなく、過去にも行われたが、米国著作権局は、この申請を退けている。米国の発明家Stephen Thalerは、AIで創作したデジタルアートの著作権の登録を申請した。このAIは「Creativity Machine」という名前で、アルゴリズムが「A Recent Entrance to Paradise」という題名のデジタルアートを生成した。この申請に対し、米国著作権局は、2022年2月、AIが生成したアートは、人間が創作に関与しておらず、著作権の登録はできないとの判定を下した。

コミックブックの著作権が認められた理由

米国著作権局は、著作権で保護できる著作物は、人間が制作したものに限られる、との解釈を示している。AIなど人間以外のものが創作した著作物は、著作権の保護の対象とはならないことになる。一方、デジタルアート制作の過程で、人間の関与があれば、創作物は著作権で保護される対象となる。今回のケースでは、クリエーターがコミックブックを制作する過程で、AIというツールを使ってイメージを生成したので、この作品は著作権物として登録することができた。

出典: Kris Kashtanova

Midjourney

Kashtanovaは利用したAIは「Midjourney」であることを明らかにしている。コミックブックの表紙に、製作者として、自身の名前とMidjourneyを併記している(先頭のイメージ)。MidjourneyとはAI研究団体で、独自の手法で、テキストをイメージに変換する技術を開発した。現在はベータ版が公開されており、サイトでイメージを生成できる。ギャラリーには既に、Midjourneyで制作されたデジタルアートが掲載されている(下のイメージ)。

出典: Midjourney

主人公は誰

Zarya Of the Dawnの著作権が認められたが、主人公「Zarya」は誰かという議論が広がっている。コミックブックを通じて、AIが同じ人物を描き出しており、製作者はテキストで特定の氏名を指示していることになる。巷では、この人物は米国の女優Zendaya(ゼンデイヤ)であるとの憶測が広がっている。Zendayaは映画やテレビで活躍するでけでなく、2022年にはTimeの「世界で最も影響力のある100人」に選ばれている(下の写真)。確かに、Zendayaは主人公Zaryaに似ている。

出典: Time

AIイメージの取り使いを禁止

米国ではMidjourneyの他に、OpenAIが開発した「DALL-E」や、Stability AIの「Stable Diffusion」など、テキストからイメージを生成するAIがデジタルアートの制作で使われている。このため、ネット上にはAIが生成したデジタルアートが満ち溢れている。このような中、写真画像販売会社Getty Imagesは、AIで生成したイメージをサイトにアップロードして、これを販売することを禁止した。

禁止の理由

Getty Imagesは、AIが生成したイメージを禁止する理由として、イメージそのものと、AIを教育したイメージに関し、著作権侵害のリスクがあるという解釈を示してる。多くのAIは、著作権で保護されているイメージを使って、アルゴリズムを教育している。この手法はスクレイピングと呼ばれ、フェアユース(Fair Use)で、その利用行為は著作権の侵害に当たらないとの解釈が一般的である。しかし、生成したイメージを商品として有償で販売するケースでは、この抗弁は成り立たず、著作権侵害にあたるとの解釈がある。

出典: AI Comic Books

グレーなエリア

AIに関する著作権の議論が収束しないなか、既に、AIで生成されたコミックブックが数多く販売されている。その代表がAI Comic Booksで、AIで生成したコミックブックのマーケットプレイスで、ここで多くの作品が販売されている(上の写真)。Zarya Of the Dawnもこのサイトで販売されており、価格は無料であるが、その代わりに寄付金を募っている。アルゴリズムを著作権で保護されたイメージで教育すると、AIが生成したイメージは合法なのか、グレーなエリアでビジネスが広がっている。

ブロックチェーン「イーサリアム(Ethereum)」は、取引を認証する方式を改善し、電力消費量を大きく抑えたシステムに進化した。この改良は「マージ(Merge)」と呼ばれ、無事に移行作業が完了し、今週から新しいイーサリアムが稼働している。暗号通貨は、マイニングの処理で大量の電力を消費し、地球温暖化の要因となっている。イーサリアムはこの問題を解決し、暗号通貨が本格的に普及するのか、新世代のブロックチェーンに注目が集まっている。

出典: Ethereum

イーサリアムとは

イーサリアムはビットコイン(Bitcoin)に次ぐ、二番目の規模のブロックチェーンで、2015年から運用を開始した。ロシア系カナダ人であるヴィタリック・ブテリン(Vitalik Buterin)が考案し、今ではオープンソースとして開発者団体「イーサリアム・ファウンデーション(Ethereum Foundation)」で管理されている。イーサリアムはブロックチェーンとして、分散型アプリケーション「Decentralized Application (略称はDapp)」を運用する基盤として使われ、その代表が暗号通貨「イーサ(Ether、略称はETH)」となる。

マージが完了

イーサリアムは、9月15日、検証方式を改良する移行作業「マージ(Merge)」を完了した。マージとは、取引の正当性を検証する方式を「Proof-of-Work (PoW)」から「Proof-of-Stake (PoS)」に移行するプロセスを指す(下のグラフィックス)。ブロックチェーンは、取引の記録を取引台帳「ブロック(Block)」に書き込み、これを複数のノードに分散して保管し、安全に運用する。ブロックを生成する方法は二種類で、これがPoWとPoSとなる。イーサリアムは創設以来、PoWを使ってきたが、マージによりPoSに移行した。

出典: Ethereum

PoWからPoSに移行する理由

PoWはマイニング(Mining)とも呼ばれ、難解な数学問題を解いた最初のマイナーに、ブロックを生成する権利が与えられ、この対価として報酬を受ける仕組みとなる。このため、マイナーは競い合って、高性能プロセッサを使い、難解な数学問題を解く。この結果、多数の高性能プロセッサが稼働し、大量の電力を消費し、これが地球温暖化の原因となっている。イーサリアムは、エネルギー問題を解決するため、検証方式をPoWからPoSに移行し、消費電力を99.95％削減できるとしている。

PoSの検証方式

新方式のPoSは、ノード運用者が暗号通貨イーサ(ETH)を担保として差し入れ、検証者(Validators)になる方式を指す。検証者は、取引内容を精査し、正常に処理されたことを確認する作業を実行する。検証作業が終了すると、検証者はブロックを生成し、その対価としてイーサを受け取る。PoS方式では、難解な数学問題を解く必要はなく、通常のプロセッサで処理を実行でき、電力消費量が大幅に低減する。なお、検証者が不正行為をした際は、担保は没収され、検証者の権利を失う。このため、SoWは担保を根拠に公正な取引ができる仕組みとなる。

新しいイーサリアム

システムの観点からは、マージは次のプロセスで実行された。従来のブロックチェーンは「Ethereum Mainnet」と呼ばれ、ここに新しい認証方式「Beacon Chain」を組み込む作業となった。Beacon ChainがPoSのエンジンで(下のグラフィックス)、これを従来システムにマージした形となる。先頭のグラフィックスがこれを模式的に示している。宇宙船全体がイーサリアムで、その本体(円形の部分)がEthereum Mainnetを示し、ここに新しい認証方式(エンジンの部分)「Beacon Chain」を組み込んだ。従来は、地球を周回する人工衛星であったが、新たなエンジンを搭載したことで、他の惑星まで飛行できると形容している。

出典: Ethereum

マージ後の運用状況

イーサリアムはブロックチェーンで暗号通貨イーサ(Ether)を運用しており、ビットコインに次ぎ世界で二番目の取引量となる。マージが完了し、ブロックチェーンの構造は大きく変わったが、一般消費者は継続してイーサを使うことができる。特別なアクションは不要で、イーサ向けのワレットで売買処理を実行できる。ただ、米国の金利上昇に伴い、暗号通貨が売られ、イーサの価格はピークの4,644．43ドルから大きく下落している(下のグラフ)。

出典: Google Finance

分散アプリについて

イーサリアムは、ビットコインとは異なり、ブロックチェーンで多彩な分散アプリケーション(Dapp)が稼働している。イーサリアムは「Smart Contract」という機能を提供しており、これを使って分散型アプリケーションを開発する。その代表がメタバースで、イーサリアムに３D仮想都市が構築されている(下のグラフィックス、Decentralandの事例)。土地や施設や商品は、イーサリアムに構成されるトークンと位置付けられ、ここで独自の暗号通貨を使って売買する。また、多くのNFTはイーサリアムに展開され、デジタルアートやデジタルグッズを売買する。マージにより、イーサリアムで稼働している分散アプリケーションは、最小限の変更で継続して利用できる。

出典: Decentraland

PoSの検証者になると

前述の通り、新しいイーサリアムでは、検証者になるために担保を差し出す必要があり、その額は32ETH(約700万円)からとなる。検証者になると、検証作業をする順番を待ち、指名されるとそれを実行する仕組みとなる。指名の順番は、担保の金額により決められ、多額の担保を積むと順番が早く回ってきて、収入が増える。また、以前のイーサリアムと同様に、検証者は、プロセッサやストレージの使用量として「ガスフィー(Gas Fee)」を受け取る。これはシステム運用にかかる費用への対価で、検証者はトランザクション毎にこれを受け取る。

電力消費量が激減

マージ後に、イーサリアムの電力消費量のデータが公開され、実際に大きく低下したことが明らかになった(下のグラフ)。イーサリアムが運用を始めた9月15日は、電力消費量が激減し、年換算で3.40TW(Tera Watt Hour)となった。前日は77.77TWで、削減率は95.63％となる。因みに、従来のイーサリアムの電力消費量は人口1,960万人のチリに相当する。

出典: Digiconomist

ビットコインのマイニング

これに対し、ビットコインの電力消費量は97.11TWで、フィリピン一国の電力消費量に相当する。2021年5月、中国が暗号通貨のマイニングを禁止したため、システム運用状況が一変した(下のグラフィックス)。それまでは、マイニングの中心は中国であったが、規制を受けてマイナーは中国を脱出し、米国に拠点を移している。今では、世界の中で米国がマイニングの中心地となり、エネルギー問題が深刻化している。米国の中でもジョージア州にマイナーが集中している。同州は原子力発電所を運用しており、マイナーはこの電力を使ってビットコインのマイニングを実行している。

出典: Visual Capitalist

マイニングの問題

ビットコインのマイナーは、大量の二酸化炭素を排出していると、社会から厳しい批判を受けている。このため、マイナーは原子力発電や再生可能電力でマイニング処理を実行し、この批判をかわしている。しかし、PoWのマイニングという処理は、ビットコインのブロックを生成する権利を確保するためのもので、社会的な恩恵は無く、無駄な処理として認識されている。ビットコインが社会的に容認されない理由の一つがマイニング処理で、企業や社会にとっては、持続可能な社会を実現するための概念ESG(環境・社会・ガバナンス)と相容れないものになる。

ブロックチェーンの再評価と危険性

このような社会環境の中で、イーサリアムはマージを実行した。電力消費量は激減し、地球環境にやさしいシステムとなり、企業から暗号通貨が再評価されるとの期待が広がっている。一方、ブロックチェーンは銀行など中央組織を必要としない分散型金融システムとして誕生したが、マージによりイーサリアムは分散型から集中型に向かう危険性が指摘されている。PoSでは検証者になるために担保を差し入れるが、巨大テックなどが巨額のイーサを差し出し、ブロックチェーンをコントロールする危険性が懸念されている。期待と危険が混じり合い、新しいイーサリアムが運用を開始した。

高度な言語モデルをネット上の差別用語で教育して、危険な発言を繰り返すチャットボットを開発した。このチャットボットは「GPT-4chan」と呼ばれ、人間と対話する機能を持つが、発言内容は通常の会話で許容される範囲を逸脱し、差別発言や暴言を繰り返す。安全なAI開発とは対極に位置し、世界で一番危険なAIが生まれた。

出典: Yannic Kilcher

GPT-4chanとは

GPT-4chanは研究者Yannic Kilcherにより開発され(上の写真)、掲示板サイト「4chan（4ちゃん」で短期間運用された。GPT-4chanは高度な言語モデルで、入力された言葉に対し、それに返答する文章を生成する機能を持つ。人間と対話する機能を持つチャットボットとなる。しかし、通常のチャットボットとは異なり、4chanで運用され、社会的に許容されない会話で使われた。

4chanの概要

4chanは、日本の「2ちゃんねる」から分派したもので、サブカルチャー向けの掲示板として利用されている。発言に関する規制は極めて緩やかで、差別や偏見や偽情報が飛び交うサイトとなっている。但し、犯罪など法令に抵触する発言は違法行為となり、取り締まりの対象となる。(下の写真、4chanのスレッドの一部で、アメリカで白人の人口を増やす方法が、支離滅裂なロジックで議論されている。)

出典: 4chan

Politically Incorrectという掲示板

GPT-4chanは、このサイトの中で、政治討論を交わす掲示板「Politically Incorrect(下の写真、略称は/pol/で政治的に不適切という意味を持つ)」で運用された。Politically Incorrectは、特定のグループに不快感を与えないよう配慮することなく、政策や考えをストレートに発言する場として使われている。この掲示板は極右団体「Alternative Right」が意見を交換する場となり、人種差別に関する投稿が大量に掲載されている。GPT-4chanは/pol/で24時間運用され、人間と対話を続け、生成された発言の数は15,000件に上る。この期間、利用者はチャットボットとは気づかず、会話が続けられた。

出典: 4chan

オープンソースの言語モデル

GPT-4chanはオープンソースの言語モデル「GPT-J 6B」を使っている。これはAI研究コミュニティ「EleutherAI」により開発された言語モデルで、「Transformer(トランスフォーマー)」というアーキテクチャを持ち、６B(60億)個のパラメータから成る。高度な言語機能を持ち、OpenAIの「GPT-3」に対抗して開発された。GPT-3はクローズドソースであるが、GPT-Jはオープンソースとして公開されており、世界の研究団体がこれを利用して言語モデルの研究を進めている。

差別用語のデータセット

GPT-4chanはこのGPT-J 6Bを4chanの/pol/に掲載されている大量の差別発言で教育したものである。差別発言のデータは「Raiders of the Lost Kek」といわれ、3.5年間にわたり/pol/で交わされた会話(下の写真)を収集したもので、イギリスのUniversity College Londonなどにより開発された。ここには330万のスレッドと1.345億の会話が収納されており、危険な発言や人種差別や攻撃的な発言の世界最大規模のデータセットとなる。

出典: Antonis Papasavva et al.

アカデミアの警告メッセージ

本来、GPT-JとRaiders of the Lost Kekは、AI研究を支援するために開発されたもので、AIの危険性を理解し、安全なAIを開発するための重要なシステムとなる。これに反し、GPT-4chanは差別発言や危険な言葉を生成する、世界で最も危険な言語モデルとなり、これが一般社会にリリースされた。スタンフォード大学などAI研究コミュニティは、GPT-4chanが社会に公開されたことに危機感を抱き、オープンレターを発信し(下の写真、レターの一部)、Yannic Kilcherに対し、AIの危険性を認識し、倫理的な開発を要請した。特に、ニューヨーク州バッファローで発生した大量殺人事件に関連する発言が教育データとして使われており、これを学習したチャットボットに対し、強い警戒感を示している。

出典: Percy Liang et al.

国家安全保障

GPT-4chanはAI開発の危険性を改めて認識させられる出来事となった。高度な言語モデルが開発され、それがオープンソースとして公開されることで、誰でも簡単に社会に危害を及ぼすAIモデルを生成できるようになった。つまり、欧米諸国に敵対する国々が、これらオープンソースを使って、社会や国民を攻撃する高度な言語モデルを開発できることを意味する。特に、言語モデルの基盤であるTransformerが、AI半導体と同様に、国家安全保障にかかわるコア技術となり、オープンソースの管理や運用方法が問われている。