[Künstliche Intelligenz] DeepSeek veröffentlicht DualPath | Durchbrechen des Engpasses bei der Rechenleistung | KV-Cache-Dualpfad | Lösung der Speicherbandbreiten-Grenze | Inferenzdurchsatz | Schlüsselbasis des Agenten | PD-Trennarchitektur | Vorfüllung | Dekodierungseffizienz

Wenn sich große Modelle von Konversationstools zu autonomen Agenten weiterentwickeln, ist die Rechenleistung nicht mehr der einzige Gewinner, und die eigentliche Achillesferse wird zur IO-Bandbreite. Dieses Video wirft einen Blick auf die neueste von DeepSeek veröffentlichte DualPath-Architektur und zeigt, wie sie durch die Rekonstruktion des Datenpfads die Bandbreitenauslastung der Netzwerkkarte verdoppeln kann und so die peinliche Situation leistungsstarker GPUs, die auf Daten warten, vollständig beendet. Wir werden auf 5.000 Zeilen Kerncodeänderungen eingehen und analysieren, wie der Dual-Path-KV-Cache die theoretische Obergrenze von null IO-Overhead erreichen kann. Wenn das Zeitalter der Millionen von Kontexten anbricht, nutzt DeepSeek diese Reihe von Optimierungen auf Systemebene, um die zugrunde liegenden Spielregeln neu zu definieren, die die Modellleistung bestimmen. https://arxiv.org/pdf/2602.21548