分散型 AI とゼロ知識証明がコンピューティングをどのように民主化するか

AI は、以前のバージョンのインターネットで見られたのと同じ中央集権化の危険にさらされています。しかし、別の方法も可能だとマヘシュ・ラマクリシュナン氏とヴィニャヤック・クルプ氏は言う。

Decentralized AI promises to democratize compute, making it accessible to smaller developers and protecting against the consolidation of power by a few major actors.

分散型 AI は、コンピューティングの民主化を約束し、小規模な開発者がアクセスできるようにし、少数の主要な主体による権力の集中から保護します。

In late July, Mark Zuckerberg penned a letter explaining why “open source is necessary for a positive AI future,” where he waxes poetic about the need for open-source AI development. The once-nerdy teen founder, now turned into the wakeboarding, gold chain-wearing, and jiu-jitsu fighting “Zuck,” has been branded as the messiah of open-source model development.

7月下旬、マーク・ザッカーバーグは「AIの前向きな未来にはオープンソースが必要」である理由を説明する手紙を書き、その中でオープンソースAI開発の必要性について詩的に述べている。かつてオタクだった 10 代の創設者は、今ではウェイクボード、金のチェーンを身に着け、柔術で戦う「ザック」に変身し、オープンソース モデル開発の救世主としての烙印を押されました。

But thus-far, he and the Meta team haven’t articulated much about how these models are being deployed. As model complexity drives compute requirements higher, if model deployment is controlled by a handful of actors, then have we not succumbed to a similar form of centralization?

しかしこれまでのところ、同氏とメタチームはこれらのモデルがどのように展開されているかについてあまり明確にしていない。モデルの複雑さによってコンピューティング要件が高まる中、モデルのデプロイメントが少数のアクターによって制御されている場合、私たちは同様の形式の集中化に屈していないでしょうか?

Decentralized AI promises to solve this challenge, but the technology requires advancements in industry-leading cryptographic techniques and unique hybrid solutions.

分散型 AI はこの課題の解決を約束しますが、この技術には業界をリードする暗号化技術と独自のハイブリッド ソリューションの進歩が必要です。

This op-ed is part of CoinDesk's new DePIN Vertical, covering the emerging industry of decentralized physical infrastructure.

この論説は CoinDesk の新しい DePIN バーティカルの一部であり、分散型物理インフラストラクチャの新興産業をカバーしています。

Unlike centralized cloud providers, decentralized AI (DAI) distributes the computational processes for AI inference and training across multiple systems, networks, and locations. If implemented correctly, these networks, a type of decentralized physical infrastructure network (DePIN), bring benefits in censorship resistance, compute access, and cost.

集中型のクラウド プロバイダーとは異なり、分散型 AI (DAI) は、AI の推論とトレーニングのための計算プロセスを複数のシステム、ネットワーク、場所に分散させます。正しく実装されれば、分散型物理インフラストラクチャ ネットワーク (DePIN) の一種であるこれらのネットワークは、検閲耐性、コンピューティング アクセス、およびコストの面で利点をもたらします。

DAI faces challenges in two main areas: the AI environment and the decentralized infrastructure itself. Compared to centralized systems, DAI requires additional safeguards to prevent unauthorized access to model details or the theft and replication of proprietary information. For this reason, there is an under-explored opportunity for teams who focus on open-source models, but recognize the potential performance disadvantage of open-sourced models compared to their closed-source counterparts.

DAI は、AI 環境と分散インフラストラクチャ自体という 2 つの主要な領域で課題に直面しています。集中型システムと比較して、DAI では、モデルの詳細への不正アクセスや機密情報の盗難や複製を防ぐための追加の保護手段が必要です。このため、オープンソース モデルに焦点を当てているものの、クローズドソースのモデルと比較して、オープンソース モデルの潜在的なパフォーマンス上の欠点を認識しているチームにとっては、十分に検討されていない機会があります。

Decentralized systems specifically face obstacles in network integrity and resource overhead. The distribution of client data across separate nodes, for instance, exposes more attack vectors. Attackers could spin up a node and analyze its computations, try to intercept data transmissions between nodes, or even introduce biases that degrade the system’s performance. Even in a secure decentralized inference model, there must be mechanisms to audit compute processes. Nodes are incentivized to save cost on resources by presenting incomplete computations, and verification is complicated by the lack of a trusted, centralized actor.

分散型システムは、特にネットワークの整合性とリソースのオーバーヘッドという障害に直面します。たとえば、クライアント データが別々のノードに分散されると、より多くの攻撃ベクトルが露呈します。攻撃者はノードを起動してその計算を分析したり、ノード間のデータ送信を傍受したり、システムのパフォーマンスを低下させるバイアスを導入したりする可能性があります。安全な分散推論モデルであっても、計算プロセスを監査するメカニズムが必要です。ノードは不完全な計算を提示することでリソースのコストを節約するよう動機づけられますが、信頼できる集中型アクターが不足しているため検証が複雑になります。

Zero-Knowledge Proofs

ゼロ知識証明

Zero-knowledge proofs (ZKPs), while currently too computationally expensive, are one potential solution to some DAI challenges. ZKP is a cryptographic mechanism that enables one party (the prover) to convince another party (the verifier) of the truth of a statement without divulging any details about the statement itself, except its validity. Verification of this proof is quick for other nodes to run and offers a way for each node to prove it acted in accordance with the protocol. The technical differences between proof systems and their implementations (deep-dive on this coming later) are important for investors in the space.

ゼロ知識証明 (ZKP) は、現時点では計算コストが高すぎるものの、一部の DAI の課題に対する潜在的な解決策の 1 つです。 ZKP は、一方の当事者 (証明者) が、その有効性を除き、ステートメント自体の詳細を明かすことなく、別の当事者 (検証者) にステートメントの真実性を納得させることを可能にする暗号メカニズムです。この証明の検証は他のノードにとって迅速に実行され、各ノードがプロトコルに従って動作したことを証明する方法を提供します。証明システムとその実装の間の技術的な違い (これについては後で詳しく説明します) は、この分野の投資家にとって重要です。

Centralized compute makes model training exclusive to a handful of well-positioned and resourced players. ZKPs could be one part of unlocking idle compute on consumer hardware; a MacBook, for example, could use its extra compute bandwidth to help train a large-language model while earning tokens for the user.

一元化されたコンピューティングにより、モデルのトレーニングは、適切な位置にあり、リソースを備えた少数のプレーヤーのみに限定されます。 ZKP は、消費者向けハードウェア上のアイドル状態のコンピューティングを解放する一環となる可能性があります。たとえば、MacBook は、ユーザーのトークンを獲得しながら、追加のコンピューティング帯域幅を使用して大規模言語モデルのトレーニングに役立てることができます。

Deploying decentralized training or inference with consumer hardware is the focus of teams like Gensyn and Inference Labs; unlike a decentralized compute network like Akash or Render, sharding the computations adds complexity, namely the floating point problem. Making use of idle distributed compute resources opens the door for smaller developers to test and train their own networks — as long as they have access to tools that solve associated challenges.

Gensyn や Inference Labs などのチームは、消費者向けハードウェアを使用した分散トレーニングや推論の導入に重点を置いています。 Akash や Render のような分散型コンピューティング ネットワークとは異なり、計算をシャーディングすると複雑さが増し、浮動小数点問題が発生します。アイドル状態の分散コンピューティング リソースを利用することで、関連する課題を解決するツールにアクセスできる限り、小規模な開発者が独自のネットワークをテストおよびトレーニングできるようになります。

At present, ZKP systems are seemingly four to six orders of magnitude more expensive than running the compute natively, and for tasks that require high-compute (like model training) or low latency (like model inference) using a ZKP is prohibitively slow. For comparison, a drop of six orders of magnitude means that a cutting edge system (like a16z’s Jolt) running on an M3 Max chip can prove a program 150 times slower than running it on a TI-84 graphing calculator.

現時点では、ZKP システムはコンピューティングをネイティブで実行するよりも 4 ～ 6 桁高価であるようで、高コンピューティング (モデル トレーニングなど) または低レイテンシー (モデル推論など) を必要とするタスクの場合、ZKP を使用すると法外に遅くなります。比較のために言うと、6 桁の低下は、M3 Max チップ上で実行される最先端のシステム (a16z の Jolt など) が、TI-84 グラフ電卓上でプログラムを実行するよりも 150 倍遅いことを証明できることを意味します。

AI's ability to process large amounts of data makes it compatible with zero-knowledge proofs (ZKPs), but more progress in cryptography is needed before ZKPs can be widely used. Work being done by teams such as Irreducible (who designed the Binius proof system and commitment scheme), Gensyn, TensorOpera, Hellas, and Inference Labs, among others, will be an important step in achieving this vision. Timelines, however, remain overly optimistic as true innovation takes time and mathematical advancement.

AI は大量のデータを処理できるため、ゼロ知識証明 (ZKP) と互換性がありますが、ZKP が広く使用されるには暗号化のさらなる進歩が必要です。とりわけ、Irreducible (Binius 証明システムとコミットメント スキームを設計した)、Gensyn、TensorOpera、Hellas、および Inference Labs などのチームによって行われている作業は、このビジョンを達成するための重要なステップとなるでしょう。しかし、真のイノベーションには時間と数学的進歩がかかるため、スケジュールは依然として過度に楽観的です。

In the meantime, it’s worth noting other possibilities and hybrid solutions. HellasAI and others are developing new methods of representing models and computations that can enable an optimistic challenge game, allowing for only a subset of computation that needs to be handled in zero-knowledge. Optimistic proofs only work when there is staking, the ability to prove wrongdoing,

それまでの間、他の可能性とハイブリッド ソリューションに注目する価値があります。 HellasAI などは、ゼロ知識で処理する必要がある計算のサブセットのみを可能にする、楽観的なチャレンジ ゲームを可能にするモデルと計算を表現する新しい方法を開発しています。楽観的な証明は、賭け金、不正行為を証明する能力がある場合にのみ機能します。