グーグルのエンジニアだったイリア・ポロスキンが、同僚のヤコブ・ウスコライトとランチを共にしたのは2016年のことだった。AIを活用してユーザーの質問に有用な回答を提供するプロジェクトの進展の遅さに、ポロスキンは苛立っていた。そこでウスコライトは、彼が以前から考えていた「Self-Attention」と呼ばれる技術を試すことを提案した。これが8人が協力し、最終的に2017年の論文「Attention Is All You Need」に結実した取り組みの始まりだった。この論文は、AIを強化する「トランスフォーマー」の概念を紹介するもので、世界を変えることになった。
しかし、それから8年が経った現在の状況にポロスキンは不満を覚えている。オープンソースの信奉者であるポロスキンは、たとえ透明性を基盤に設立された企業が提供しているものだったとしても、トランスフォーマーに基づく大規模言語モデル（LLM）の秘密主義的な性質に懸念を抱いているのだ（さて、どの企業のことだろうか？）。
大手テック企業のAIへの懸念
モデルが学習したデータやデータの重み付けがどうなっているかを知ることはできない上に、外部の人間がそれを変更することもできない。大手テクノロジー企業のメタ・プラットフォームズは自社のシステムをオープンソースとして誇っているが、メタのモデルは真にオープンなものではないとポロスキンは考えている。「パラメーターは公開されていますが、モデルに使用された訓練データまでは公開されていません。データはモデルにあるかもしれない偏見や、どのような判断を下すかを定義しています」とポロスキンは言う。
LLMの技術が進歩するにつれて危険性が増すこと、さらに利益追求の姿勢によりこの技術の進化の道筋が決まってしまうことを、ポロスキンは懸念している。「より優れたモデルを訓練するためにもっと資金が必要だと企業は言います。そのモデルは人々を巧みに誘導し、収益を得るために調整されます」と言う。
規制が役に立つともポロスキンは考えていない。そもそもモデルに制限を課すことは非常に難しく、規制当局がそれを実現するには、テック企業自身に対策を任せるほかないのだ。「『このモデルのパラメーターはこれで、安全対策に必要なマージンはこれで十分か？』といった質問に的確に答えられる人は多くありません。エンジニアでさえ、モデルのパラメーターや安全性を確保するマージンに関する質問に答えることは難しいのです」とポロスキンは語る。「ワシントンD.C.にこれができる人がいるとは思えません」
この状況では規制機関が規制対象企業の影響を受け、「規制の虜」になる可能性が高い。「大企業は立ち回り方を知っています」とポロスキンは話す。「企業は自分たちの人間を委員会に送り込むことで、監視対象である自分たちが監視者になれるようにするでしょう」
オープンソースのAIモデル
そこでポロスキンは代わりに、説明責任を果たせる仕組みを組み込んだAIのオープンソースモデルを提唱している。トランスフォーマーの論文が2017年に発表される前、ポロスキンはグーグルを去り、Near Foundationというブロックチェーン及びWeb3の非営利団体を設立した。その後、ポロスキンの団体は、オープン性と説明責任の原則の一部を「ユーザー所有のAI」と呼ぶものに適用するため、少しだけ事業の方向性を変えている。ブロックチェーンを基盤とする暗号資産プロトコルを参考に、中立的なプラットフォームをもつ分散型のAIを開発しようとしているのだ。
「全員がシステムを所有するようになります」とポロスキンは語る。「どこかの時点で『もう収益を上げる必要はない』となるでしょう。ビットコインと同じです。価格は上がったり下がったりしますが、『今年は20億ドルの収益を上げなければならない』と決める人はいません。この仕組みを活用することで関係者の利害を一致させ、中立的なプラットフォームを構築できます」
ポロスキンによれば、開発者たちはすでにNear Foundationのプラットフォームを使用してこのオープンソースモデルで動作するアプリケーションを開発している。Near Foundationはスタートアップを支援するインキュベーションプログラムも立ち上げた。有望なアプリケーションのひとつは、AIモデルに訓練データを提供しているコンテンツの作成者に報酬を分配するものだ。
Web3の評判と、それがいまのところインターネット上で広く普及していないことを考えると、暗号技術を、いま最も変化と進化が著しいAI技術を制御する方法の参考にするのは、やや心許ないかもしれないと、わたしは指摘した。「マーケティングの面で支援は必要です」とポロスキンは同意する。
オープンソースのAIに対する以前から反論は、強力なモデルへの普遍的なアクセスを許可すると、悪意のある者が誤情報の生成や新しい武器の制作にAIを悪用するかもしれないというものだ。これに対し、ポロスキンはオープンなAIモデルはいまあるものよりも悪いわけではないと言う。「安全対策はこれらのモデルの機能を制限する見せかけの対策にすぎません」と言う。「すべてのモデルは脱獄可能で、そんなに難しいことでもないのです」
コンテンツ作成者の貢献を認める方法
ポロスキンは自身のアイデアを広めるために、論文「Attention Is All You Need」の共著者のうちの数人を含め、業界中の研究者と話をしてきた。論文の共著者のなかで、2016年に運命的なランチを共にしたウスコライトがポロスキンのアイデアに最も共感している。
ウスコライトとは6月下旬に話をする機会があった。ウスコライトはポロスキンの主張の大部分に同意しているが、「ユーザー所有のAI」という説明にはあまり魅力を感じないという。「コミュニティ所有のAI」の方が望ましいと話す。
ポロスキンが想定するマイクロペイメントのシステムを伴うオープンソースのモデルは、AIが巻き起こした知的財産にまつわる危機的な状況を解決する手立てになるかもしれないという点に、ウスコライトは最も期待を寄せている。大手テック企業は現在、AIモデルの中核となっている作品の作成者と法廷で大規模な争いを繰り広げている。とはいえ、企業は徹底的に利益を追求する体質であるから、この対立は避けられない。作成者の補償に取り組んだとしても、それが最終的に企業の利益最大化のニーズの影響を受けることは確実である。しかし、このような問題は、作成者の貢献を認識し報いるという考えをもとにゼロから構築されたモデルでは起こらない。
「コンテンツ作成者の貢献を認める方法があれば、知的財産に関するすべての問題は解消されるでしょう」とウスコライトは言う。「少なくとも長期的には、人類にとって情報の価値を定量化する史上初の機会なのです」
変わらなければ人類は「一巻の終わり」
ユーザー所有のアプローチに関する疑問のひとつは、ゼロから洗練された基盤モデルを開発するための資金がどこから来るのか、という点にある。現在、ポロスキンのプラットフォームは、彼自身懸念を抱いているものの、メタのLlamaモデルのバージョンのひとつを使用している。完全にオープンなモデルを作成するために何十億ドルも出す人はいるのだろうか。政府か、それとも「GoFundMe」での大々的なクラウドファンディングだろうか。最先端のテクノロジー企業から少し遅れている企業が競争を妨げるために出資するかもしれないと、ウスコライトは考えているが、まだ何も決まっていない。
しかし、ポロスキンとウスコライトのどちらも、世界に汎用人工知能（AGI）が登場するまでに──つまり超知能が自分自身を改良し始めるまでに──ユーザー所有のAIが完成しなければ、人類は危機的な状況に見舞われると考えている。
それが起きたのなら「一巻の終わりです」とウスコライトは言う。ウスコライトもポロスキンも、AI科学者がいずれ自律的に性能を高められるAIをつくり出すことは確実だと考えている。いまの状況が変わらなければ、それをつくりだすのはおそらく大企業になるだろう。「突然いくつかの企業、あるいは最初にそれをつくった会社が、いくらでも稼げるマシンを手に入れることになります。その結果、ほかのすべての経済活動に悪影響を及ぼすゼロサムの状況が現れます。これは阻止しなければなりません」
ポロスキンは最悪の状況を想像するとき、AIの進化において自身が果たした役割を後悔することがあるのだろうか。そんなことはないようだ。「どのようなブレイクスルーだったとしても、時期は異なるかもしれませんが、わたしたちがいても、いなくても起きていたでしょう」とポロスキンは話す。
「進化を続けるには別の構造が必要であり、それがわたしたちがいま取り組んでいることです。ユーザー所有のAIが存在すれば競争の条件は同じになり、OpenAIやグーグルは独占できなくなります。同じ競技場で同じゲームをすることになるということです。リスクと成功のチャンスが均等になります」。これこそがある意味で、トランスフォーマティブ（変革的）と呼べることかもしれない。
（Originally published on wired.com, translated by Nozomi Okuma, edited by Mamiko Nakano)
.jpg)
雑誌『WIRED』日本版 VOL.53
「Spatial × Computing」
実空間とデジタル情報をシームレスに統合することで、情報をインタラクティブに制御できる「体験空間」を生み出す技術。または、あらゆるクリエイティビティに2次元（2D）から3次元（3D）へのパラダイムシフトを要請するトリガー。あるいは、ヒトと空間の間に“コンピューター”が介在することによって拡がる、すべての可能性──。それが『WIRED』日本版が考える「空間コンピューティング」の“フレーム”。情報や体験が「スクリーン（2D）」から「空間（3D）」へと拡がることで（つまり「新しいメディアの発生」によって）、個人や社会は、今後、いかなる変容と向き合うことになるのか。その可能性を、総力を挙げて探る！詳細はこちら。
