분산형 AI와 영지식 증명이 컴퓨팅을 민주화하는 방법

AI는 이전 버전의 인터넷에서 볼 수 있었던 것과 동일한 중앙 집중화의 위험에 처해 있습니다. 그러나 다른 방법도 가능하다고 Mahesh Ramakrishnan과 Vinayak Kurup은 말합니다.

Decentralized AI promises to democratize compute, making it accessible to smaller developers and protecting against the consolidation of power by a few major actors.

분산형 AI는 컴퓨팅을 민주화하여 소규모 개발자가 액세스할 수 있도록 하고 몇몇 주요 행위자의 권력 통합으로부터 보호할 것을 약속합니다.

In late July, Mark Zuckerberg penned a letter explaining why “open source is necessary for a positive AI future,” where he waxes poetic about the need for open-source AI development. The once-nerdy teen founder, now turned into the wakeboarding, gold chain-wearing, and jiu-jitsu fighting “Zuck,” has been branded as the messiah of open-source model development.

지난 7월 말, 마크 저커버그(Mark Zuckerberg)는 "긍정적인 AI 미래를 위해 오픈소스가 필요한 이유"를 설명하는 서한을 작성하면서 오픈소스 AI 개발의 필요성을 시적으로 표현했습니다. 한때 괴짜였던 십대 창업자는 이제 웨이크보드, 골드 체인 착용, 주짓수 싸움 "Zuck"으로 변신하여 오픈 소스 모델 개발의 메시아로 낙인찍혔습니다.

But thus-far, he and the Meta team haven’t articulated much about how these models are being deployed. As model complexity drives compute requirements higher, if model deployment is controlled by a handful of actors, then have we not succumbed to a similar form of centralization?

그러나 지금까지 그와 Meta 팀은 이러한 모델이 어떻게 배포되는지에 대해 자세히 설명하지 않았습니다. 모델 복잡성으로 인해 컴퓨팅 요구 사항이 높아짐에 따라 모델 배포가 소수의 행위자에 의해 제어된다면 유사한 형태의 중앙 집중화에 굴복하지 않습니까?

Decentralized AI promises to solve this challenge, but the technology requires advancements in industry-leading cryptographic techniques and unique hybrid solutions.

분산형 AI는 이 문제를 해결할 것을 약속하지만, 이 기술을 사용하려면 업계 최고의 암호화 기술과 고유한 하이브리드 솔루션의 발전이 필요합니다.

This op-ed is part of CoinDesk's new DePIN Vertical, covering the emerging industry of decentralized physical infrastructure.

이 논평은 CoinDesk의 새로운 DePIN Vertical의 일부로, 분산형 물리적 인프라라는 신흥 산업을 다루고 있습니다.

Unlike centralized cloud providers, decentralized AI (DAI) distributes the computational processes for AI inference and training across multiple systems, networks, and locations. If implemented correctly, these networks, a type of decentralized physical infrastructure network (DePIN), bring benefits in censorship resistance, compute access, and cost.

중앙 집중식 클라우드 제공업체와 달리 분산형 AI(DAI)는 AI 추론 및 훈련을 위한 계산 프로세스를 여러 시스템, 네트워크 및 위치에 분산합니다. 올바르게 구현되면 DePIN(분산형 물리적 인프라 네트워크)의 일종인 이러한 네트워크는 검열 저항, 컴퓨팅 액세스 및 비용 측면에서 이점을 제공합니다.

DAI faces challenges in two main areas: the AI environment and the decentralized infrastructure itself. Compared to centralized systems, DAI requires additional safeguards to prevent unauthorized access to model details or the theft and replication of proprietary information. For this reason, there is an under-explored opportunity for teams who focus on open-source models, but recognize the potential performance disadvantage of open-sourced models compared to their closed-source counterparts.

DAI는 AI 환경과 분산형 인프라 자체라는 두 가지 주요 영역에서 문제에 직면해 있습니다. 중앙 집중식 시스템과 비교하여 DAI에는 모델 세부 사항에 대한 무단 액세스 또는 독점 정보의 도난 및 복제를 방지하기 위한 추가 보호 장치가 필요합니다. 이러한 이유로 오픈 소스 모델에 중점을 두지만 폐쇄 소스 모델에 비해 오픈 소스 모델의 잠재적인 성능 단점을 인식하는 팀에게는 기회가 충분히 탐색되지 않습니다.

Decentralized systems specifically face obstacles in network integrity and resource overhead. The distribution of client data across separate nodes, for instance, exposes more attack vectors. Attackers could spin up a node and analyze its computations, try to intercept data transmissions between nodes, or even introduce biases that degrade the system’s performance. Even in a secure decentralized inference model, there must be mechanisms to audit compute processes. Nodes are incentivized to save cost on resources by presenting incomplete computations, and verification is complicated by the lack of a trusted, centralized actor.

분산형 시스템은 특히 네트워크 무결성 및 리소스 오버헤드 측면에서 장애물에 직면합니다. 예를 들어 클라이언트 데이터가 별도의 노드에 분산되면 더 많은 공격 벡터가 노출됩니다. 공격자는 노드를 가동하여 계산을 분석하고, 노드 간 데이터 전송을 가로채거나, 시스템 성능을 저하시키는 편향을 도입할 수도 있습니다. 안전한 분산형 추론 모델에서도 컴퓨팅 프로세스를 감사하는 메커니즘이 있어야 합니다. 노드는 불완전한 계산을 제공하여 리소스 비용을 절감하도록 장려되며, 신뢰할 수 있는 중앙 집중식 행위자가 부족하여 검증이 복잡해집니다.

Zero-Knowledge Proofs

영지식 증명

Zero-knowledge proofs (ZKPs), while currently too computationally expensive, are one potential solution to some DAI challenges. ZKP is a cryptographic mechanism that enables one party (the prover) to convince another party (the verifier) of the truth of a statement without divulging any details about the statement itself, except its validity. Verification of this proof is quick for other nodes to run and offers a way for each node to prove it acted in accordance with the protocol. The technical differences between proof systems and their implementations (deep-dive on this coming later) are important for investors in the space.

영지식 증명(ZKP)은 현재 계산 비용이 너무 높지만 일부 DAI 문제에 대한 잠재적인 솔루션 중 하나입니다. ZKP는 유효성을 제외하고 진술 자체에 대한 세부 정보를 공개하지 않고 한 당사자(증명자)가 다른 당사자(검증자)에게 진술의 진실성을 확신시킬 수 있도록 하는 암호화 메커니즘입니다. 이 증명의 검증은 다른 노드가 빠르게 실행될 수 있도록 하며 각 노드가 프로토콜에 따라 작동했음을 증명할 수 있는 방법을 제공합니다. 증명 시스템과 그 구현(나중에 자세히 설명) 간의 기술적 차이점은 해당 분야의 투자자에게 중요합니다.

Centralized compute makes model training exclusive to a handful of well-positioned and resourced players. ZKPs could be one part of unlocking idle compute on consumer hardware; a MacBook, for example, could use its extra compute bandwidth to help train a large-language model while earning tokens for the user.

중앙 집중식 컴퓨팅을 통해 좋은 위치에 있고 리소스를 갖춘 소수의 플레이어에게만 모델 교육을 제공합니다. ZKP는 소비자 하드웨어에서 유휴 컴퓨팅을 잠금 해제하는 일부가 될 수 있습니다. 예를 들어 MacBook은 추가 컴퓨팅 대역폭을 사용하여 사용자를 위한 토큰을 획득하는 동시에 대규모 언어 모델을 훈련하는 데 도움을 줄 수 있습니다.

Deploying decentralized training or inference with consumer hardware is the focus of teams like Gensyn and Inference Labs; unlike a decentralized compute network like Akash or Render, sharding the computations adds complexity, namely the floating point problem. Making use of idle distributed compute resources opens the door for smaller developers to test and train their own networks — as long as they have access to tools that solve associated challenges.

소비자 하드웨어를 사용하여 분산형 교육 또는 추론을 배포하는 것은 Gensyn 및 Inference Labs와 같은 팀의 초점입니다. Akash 또는 Render와 같은 분산형 컴퓨팅 네트워크와 달리 계산을 분할하면 복잡성, 즉 부동 소수점 문제가 추가됩니다. 유휴 분산 컴퓨팅 리소스를 활용하면 소규모 개발자가 관련 문제를 해결하는 도구에 액세스할 수 있는 한 자체 네트워크를 테스트하고 교육할 수 있는 기회가 열립니다.

At present, ZKP systems are seemingly four to six orders of magnitude more expensive than running the compute natively, and for tasks that require high-compute (like model training) or low latency (like model inference) using a ZKP is prohibitively slow. For comparison, a drop of six orders of magnitude means that a cutting edge system (like a16z’s Jolt) running on an M3 Max chip can prove a program 150 times slower than running it on a TI-84 graphing calculator.

현재 ZKP 시스템은 기본적으로 컴퓨팅을 실행하는 것보다 4~6배 더 비싼 것으로 보이며, 높은 컴퓨팅(예: 모델 교육) 또는 짧은 대기 시간(예: 모델 추론)이 필요한 작업의 경우 ZKP를 사용하는 것은 엄청나게 느립니다. 비교를 위해, 6자리의 크기 감소는 M3 Max 칩에서 실행되는 최첨단 시스템(예: a16z의 Jolt)이 TI-84 그래프 계산기에서 실행하는 것보다 프로그램이 150배 느리다는 것을 증명할 수 있음을 의미합니다.

AI's ability to process large amounts of data makes it compatible with zero-knowledge proofs (ZKPs), but more progress in cryptography is needed before ZKPs can be widely used. Work being done by teams such as Irreducible (who designed the Binius proof system and commitment scheme), Gensyn, TensorOpera, Hellas, and Inference Labs, among others, will be an important step in achieving this vision. Timelines, however, remain overly optimistic as true innovation takes time and mathematical advancement.

대량의 데이터를 처리하는 AI의 능력은 영지식 증명(ZKP)과 호환되지만, ZKP가 널리 사용되기 위해서는 암호화 분야에서 더 많은 발전이 필요합니다. Irreducible(Binius 증명 시스템 및 약속 체계를 설계한 사람), Gensyn, TensorOpera, Hellas 및 Inference Labs와 같은 팀이 수행하는 작업은 이 비전을 달성하는 데 중요한 단계가 될 것입니다. 그러나 진정한 혁신에는 시간과 수학적 발전이 필요하기 때문에 타임라인은 지나치게 낙관적입니다.

In the meantime, it’s worth noting other possibilities and hybrid solutions. HellasAI and others are developing new methods of representing models and computations that can enable an optimistic challenge game, allowing for only a subset of computation that needs to be handled in zero-knowledge. Optimistic proofs only work when there is staking, the ability to prove wrongdoing,

그동안 다른 가능성과 하이브리드 솔루션에 주목할 가치가 있습니다. HellasAI와 다른 사람들은 영지식에서 처리해야 하는 계산의 하위 집합만 허용하여 낙관적인 챌린지 게임을 가능하게 할 수 있는 모델과 계산을 나타내는 새로운 방법을 개발하고 있습니다. 낙관적 증명은 스테이킹, 불법 행위를 증명할 수 있는 능력,