Nvidia Rubin CPX：大きなコンテキストAIで推論パフォーマンスを革新する

Nvidia Rubin CPXが大きなコンテキストAIワークロードの推論パフォーマンスを変換する方法を調べて、比類のない効率とROIを提供します。

The AI landscape is rapidly evolving, with inference becoming the new frontier. NVIDIA's Rubin CPX GPU is designed to meet the demands of long-context AI workloads with greater efficiency and ROI.

AIの風景は急速に進化しており、推論が新しいフロンティアになりました。 NvidiaのRubin CPX GPUは、効率が向上し、ROIが多い長いコンテキストAIワークロードの要求を満たすように設計されています。

The Rise of Long-Context AI

ロングコンテキストAIの台頭

Modern AI models are now capable of multi-step reasoning and long-horizon context, enabling them to tackle complex tasks. Processing massive context has become increasingly critical, particularly in areas like software development and video generation. These applications demand sustained coherence and memory across millions of tokens, pushing the boundaries of current infrastructure.

現在、最新のAIモデルは、複数の段階的な推論と長老のコンテキストが可能になり、複雑なタスクに取り組むことができます。特にソフトウェア開発やビデオ生成などの分野で、大規模なコンテキストの処理がますます重要になっています。これらのアプリケーションは、数百万のトークンにわたって持続的な一貫性とメモリを要求し、現在のインフラストラクチャの境界を押し広げます。

NVIDIA's SMART Framework and Disaggregated Inference

Nvidiaのスマートフレームワークと分解された推論

To address this shift, the NVIDIA SMART framework optimizes inference across scale, performance, architecture, ROI, and the broader ecosystem. Disaggregated inference enables the context and generation phases to be processed independently, optimizing compute and memory resources. This improves throughput, reduces latency, and enhances overall resource utilization.

このシフトに対処するために、NVIDIAスマートフレームワークは、スケール、パフォーマンス、アーキテクチャ、ROI、およびより広範なエコシステム全体の推論を最適化します。分解された推論により、コンテキストと生成フェーズを個別に処理し、計算リソースとメモリリソースを最適化できます。これにより、スループットが改善され、レイテンシが減少し、全体的なリソースの利用が強化されます。

Introducing NVIDIA Rubin CPX

Nvidia Rubin Cpxの紹介

NVIDIA is introducing the Rubin CPX GPU, a purpose-built solution designed to deliver high-throughput performance for high-value, long-context inference workloads. Built with the Rubin architecture, it features 30 petaFLOPs of NVFP4 compute, 128 GB of GDDR7 memory, and 3x attention acceleration. Optimized for processing long sequences, Rubin CPX enhances throughput and responsiveness, maximizing ROI for large-scale generative AI workloads.

Nvidiaは、高価値の長いコンファレンス推論ワークロードのためにハイスループット性能を提供するように設計された専用ソリューションであるRubin CPX GPUを導入しています。 Rubin Architectureで構築された、NVFP4コンピューティングの30個のPetaFlops、128 GBのGDDR7メモリ、3倍の注意アクセルを備えています。長いシーケンスの処理に最適化されたRubin CPXは、スループットと応答性を高め、大規模な生成AIワークロードのROIを最大化します。

The NVIDIA Vera Rubin NVL144 CPX Rack

Nvidia Vera Rubin NVL144 CPXラック

Rubin CPX works in tandem with NVIDIA Vera CPUs and Rubin GPUs for generation-phase processing, forming a complete, high-performance disaggregated serving solution. The NVIDIA Vera Rubin NVL144 CPX rack integrates 144 Rubin CPX GPUs, 144 Rubin GPUs, and 36 Vera CPUs to deliver 8 exaFLOPs of NVFP4 compute and 100 TB of high-speed memory.

Rubin CPXは、Nvidia Vera CPUSおよびRubin GPUと並行して生成相処理のために機能し、完全で高性能の分解されたサービングソリューションを形成します。 NVIDIA VERA RUBIN NVL144 CPXラックは、144のルービンCPX GPU、144ルービンGPU、および36 Vera CPUを統合して、NVFP4コンピューティング100 TBの8枚のExaFlopsを供給します。

Real-World Impact and ROI

実世界の影響とROI

At scale, the platform can deliver a 30x to 50x return on investment, translating to as much as $5B in revenue from a $100M CAPEX investment. By combining disaggregated infrastructure, acceleration, and full-stack orchestration, Vera Rubin NVL144 CPX redefines what’s possible for enterprises building the next generation of generative AI applications.

大規模なこのプラットフォームは、30倍から50倍の投資収益率を提供し、1億ドルのCAPEX投資から5億ドルもの収益に変換できます。分解されたインフラストラクチャ、加速、フルスタックオーケストレーションを組み合わせることにより、Vera Rubin NVL144 CPXは、次世代の生成AIアプリケーションを構築する企業にとって何が可能かを再定義します。

Conclusion

結論

The NVIDIA Rubin CPX GPU and the NVIDIA Vera Rubin NVL144 CPX rack represent a new standard for full-stack AI infrastructure, creating new possibilities for workloads like advanced software coding and generative video. It's an exciting time to be in AI, and NVIDIA is leading the charge!

NVIDIA RUBIN CPX GPUとNVIDIA VERA RUBIN NVL144 CPXラックは、フルスタックAIインフラストラクチャの新しい標準を表しており、高度なソフトウェアコーディングや生成ビデオなどのワークロードの新しい可能性を作成します。 AIにいるのはエキサイティングな時期であり、Nvidiaが料金をリードしています！