Nvidia의 Rubin CPX : 대규모 추론을위한 거대한 도약?

NVIDIA의 Rubin CPX 프로세서는 대규모 컨텍스트 처리로 AI를 혁신하는 것을 목표로하며, LLM에 대한 유망한 백만 곡의 척도. 이것이 대규모 추론의 미래입니까?

NVIDIA's latest innovation, the Rubin CPX, is making waves in the AI world, promising to redefine the limits of large-scale inference. The buzz is all about its potential to handle massive-context processing, scaling up to a million tokens. Let's dive into what this means and why it matters.

Nvidia의 최신 혁신 인 Rubin CPX는 AI 세계에서 파도를 만들어 대규모 추론의 한계를 재정의 할 것을 약속합니다. 버즈는 대규모 컨텍스트 처리를 처리 할 수있는 잠재력에 관한 것입니다. 이것이 무엇을 의미하는지, 왜 중요한지에 대해 알아 봅시다.

The Rubin CPX: What's the Hype?

Rubin CPX : 과대 광고는 무엇입니까?

Jensen Huang, NVIDIA's CEO, describes the Vera Rubin platform as a leap in AI computing. The Rubin CPX is designed for massive-context AI, enabling models to reason across millions of tokens of knowledge. This is a big deal because current large language models (LLMs) are often limited by their context windows. The Rubin CPX aims to change that.

Nvidia의 CEO 인 Jensen Huang은 Vera Rubin 플랫폼을 AI 컴퓨팅의 도약이라고 설명합니다. Rubin CPX는 대규모 컨텍스트 AI를 위해 설계되어 모델이 수백만 개의 지식에 걸쳐 추론 할 수 있습니다. 현재의 대형 언어 모델 (LLMS)이 종종 컨텍스트 Windows에 의해 제한되기 때문에 이것은 큰 문제입니다. Rubin CPX는이를 변경하는 것을 목표로합니다.

Understanding the Token Game

토큰 게임 이해

LLMs work by manipulating tokens, which are essentially the building blocks of language and data. The more tokens a model can process, the better it can understand and respond to complex queries. NVIDIA claims Rubin can scale LLMs and other generative AI models to context windows of up to a million tokens. This includes image and video generation models too.

LLM은 본질적으로 언어 및 데이터의 빌딩 블록 인 토큰을 조작하여 작동합니다. 모델의 토큰이 많을수록 복잡한 쿼리를 이해하고 응답 할 수 있습니다. Nvidia는 Rubin이 LLMS 및 기타 생성 AI 모델을 최대 백만 개의 토큰의 컨텍스트로 확장 할 수 있다고 주장합니다. 여기에는 이미지 및 비디오 생성 모델도 포함됩니다.

Tech Specs and Performance

기술 사양 및 성능

The Rubin CPX boasts up to 30 petaFLOPS of NVFP4 precision compute and includes 128GB of GDDR7 memory. NVIDIA envisions these boards being combined with Rubin GPUs and Vera CPUs in a fully-stocked rack implementation called the Vera Rubin NVL144 CPX. This setup includes 144 Rubin CPX GPUs, 144 plain Rubin CPUs, and 36 Vera CPUs, delivering a total of eight exaFLOPS of NVFP4 compute.

Rubin CPX는 최대 30 개의 PETAFLOPS의 NVFP4 정밀 컴퓨팅을 자랑하며 128GB의 GDDR7 메모리를 포함합니다. Nvidia는 Vera Rubin NVL144 CPX라는 완전히 재고 된 랙 구현 에서이 보드가 Rubin GPU 및 Vera CPU와 결합되어 있다고 생각합니다. 이 설정에는 144 개의 Rubin CPX GPU, 144 개의 일반 Rubin CPU 및 36 Vera CPU가 포함되어 있으며, 총 8 개의 엑사 플롭의 ​​NVFP4 컴퓨팅이 제공됩니다.

The Million-Dollar Question: Profitability

백만 달러짜리 질문 : 수익성

NVIDIA is making a bold claim: $100 million spent on Rubin-based hardware could potentially generate as much as $5 billion in revenue. That's a serious return on investment, if it pans out. It remains to be seen whether these claims are realistic.

Nvidia는 대담한 주장을하고 있습니다. 루빈 기반 하드웨어에 1 억 달러가 지출하면 50 억 달러의 매출이 발생할 수 있습니다. 그것은 투자가 심각한 투자 수익입니다. 이러한 주장이 현실적인지 여부는 여전히 남아 있습니다.

Looking Ahead

앞으로 찾고 있습니다

The Rubin CPX is expected to be available by the end of next year. While the price point is still under wraps, the potential impact on AI is undeniable. NVIDIA continues to be a bellwether for the AI and crypto markets, making its moves closely watched by investors and enthusiasts alike. The company's GPUs are increasingly vital as the AI boom continues, in contrast to Intel which, despite a recent surge following government investment, still lags behind NVIDIA's market cap.

Rubin CPX는 내년 말까지 제공 될 것으로 예상됩니다. 가격대는 여전히 랩을 받고 있지만 AI에 대한 잠재적 영향은 부인할 수 없습니다. Nvidia는 계속해서 AI 및 Crypto Markets의 벨우 웨더이며 투자자와 애호가 모두가 면밀히 시청했습니다. AI 붐이 계속되는 인텔과 달리 AI 붐이 계속됨에 따라 회사의 GPU는 점점 더 중요 해지고 있습니다. 이는 최근 정부 투자 후 급증에도 불구하고 여전히 Nvidia의 시가 총액보다 뒤떨어져 있습니다.

Final Thoughts

최종 생각

Is the Rubin CPX the future of large-scale inference? Only time will tell. But one thing is clear: NVIDIA is pushing the boundaries of what's possible in AI. Get ready for a wild ride!

Rubin CPX는 대규모 추론의 미래입니까? 시간만이 말할 것입니다. 그러나 한 가지 분명한 점은 Nvidia가 AI에서 가능한 것의 경계를 추진하고 있습니다. 거친 승차를 준비하십시오!