Wie konfiguriere ich virtuellen Speicher für 8+ GPUs? (Windows-Fix)

Grundlegendes zu den Einschränkungen des virtuellen Speichers in Multi-GPU-Setups

1. Windows weist virtuellen Speicher pro Prozess zu, nicht global, und jede GPU-gebundene Anwendung – insbesondere Kryptowährungs-Miner oder KI-Trainings-Frameworks – kann einen großen zusammenhängenden virtuellen Adressraum anfordern.

2. Bei 8 oder mehr GPUs erfordern Speicherzuordnung auf Treiberebene, PCIe-BAR-Zuweisung und CUDA-Kontextinitialisierung insgesamt einen deutlich höheren virtuellen Adressraum als das standardmäßige 4-GB-Benutzermoduslimit unter 64-Bit-Windows.

3. Unzureichender virtueller Speicher manifestiert sich als „CUDA_ERROR_MEMORY_ALLOCATION“, „Gerätekontext konnte nicht initialisiert werden“ oder stille Abstürze während des Kernel-Starts ohne eindeutige Fehlercodes.

4. Die Größe der Windows-Auslagerungsdatei allein löst dieses Problem nicht – die Erschöpfung des virtuellen Adressraums unterscheidet sich von der physischen RAM- oder Auslagerungsdateikapazität.

Ändern der Startkonfiguration für erweiterten Adressraum

1. Starten Sie die Eingabeaufforderung als Administrator und führen Sie bcdedit /set raiseuserva 3072 aus, um den virtuellen Adressraum im Benutzermodus von 2 GB (Standard beim Legacy-Boot) oder 4 GB (Standard-UEFI) auf 3 GB zu erhöhen.

2. Für Systeme mit mehr als 8 GPUs, auf denen speicherintensive Kernel ausgeführt werden, verwenden Sie bcdedit /set raiseuserva 4096, um bis zu 4 GB VA-Speicherplatz im Benutzermodus zuzuweisen. Dazu muss das Flag „/LARGEADDRESSAWARE“ in kompatiblen Binärdateien aktiviert werden.

3. Starten Sie neu, nachdem Sie die Änderung übernommen haben. Überprüfen Sie dies mit bcdedit /enum und vergewissern Sie sich, dass „increaseuserva“ unter dem aktiven Boot-Eintrag erscheint.

4. Vermeiden Sie Werte über 4096, es sei denn, Sie verwenden Windows Server-Editionen mit vollständiger 64-Bit-VA-Unterstützung – Consumer-Windows-Versionen begrenzen die nutzbare Benutzer-VA auf ~4 GB, selbst auf x64.

GPU-Treiber und PCIe-Konfigurationsoptimierung

1. Deaktivieren Sie unnötige GPU-Funktionen über die NVIDIA-Systemsteuerung: Deaktivieren Sie PhysX, 3D Vision und GPU-beschleunigte Windows-Animationen, um den treiberseitigen Verbrauch virtueller Adressen zu reduzieren.

2. Öffnen Sie im Geräte-Manager die Eigenschaften jeder GPU → Ressourcen → Einstellung ändern → deaktivieren Sie „Bus-Mastering aktivieren“ für nicht-primäre GPUs, wenn diese ausschließlich für die Berechnung und nicht für das Rendering verwendet werden.

3. Verwenden Sie die mmcfg -Registrierungsoptimierung: Navigieren Sie zu HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\PCI und setzen Sie das DWORD „MmConfig“ auf 1, um speicherzugeordneten Konfigurationsraum zu erzwingen und so die Effizienz der BAR-Zuweisung über mehrere PCIe-Root-Komplexe hinweg zu verbessern.

4. Stellen Sie sicher, dass alle GPUs in Steckplätzen installiert sind, die mit demselben CPU-Sockel verbunden sind – sockelübergreifendes PCIe-Routing erhöht die VA-Fragmentierung aufgrund von NUMA-fähigen Treiberzuordnungen.

Auslagerungsdateioptimierung für Computing-Workloads

1. Legen Sie eine Auslagerungsdatei mit fester Größe auf einer NVMe-SSD fest: Minimum = 16 GB, Maximum = 32 GB – vermeiden Sie eine systemverwaltete Größenanpassung, da sie bei Speicherauslastung zu Latenzspitzen führt.

2. Verteilen Sie Auslagerungsdateien auf mehrere schnelle Speichergeräte, wenn mehrere NVMe-Laufwerke vorhanden sind, und weisen Sie pro 4-GPU-Gruppe eines zu, um E/A-Konflikte bei gleichzeitigen Speicherauszügen auszugleichen.

3. Deaktivieren Sie die Komprimierung der Auslagerungsdatei: Führen Sie „fsutil behaviour set disablelastaccess 1“ und „fsutil behaviour set disablelastaccess 0“ aus, um den NTFS-Metadaten-Overhead zurückzusetzen, der Auslagerungsvorgänge mit geringer Latenz beeinträchtigt.

4. Bestätigen Sie die Sichtbarkeit der Auslagerungsdatei im Task-Manager → Leistung → Speicher → Festschreibungsgebühr; „Gesamt“ sollte „Limit“ um mindestens 8 GB überschreiten, wenn alle 8 GPUs aktiv sind und Modelle laden.

Häufig gestellte Fragen

F: Beeinträchtigt eine Erhöhung der Benutzeranzahl die Systemstabilität? A: Nein – dadurch wird nur die Kernel-/Benutzer-VA-Aufteilung angepasst. Der Kernel-Speicherplatz schrumpft proportional, reicht aber weiterhin für Standardtreiber und -dienste unter Windows 10/11 Build 1904x und höher aus.

F: Kann ich raiseuserva auf Windows 11 Home Edition anwenden? A: Ja – bcdedit funktioniert in allen Windows 11-Editionen, einschließlich Home, identisch; Es gelten keine Gruppenrichtlinien oder Pro-Lizenzanforderungen.

F: Warum zeigt nvidia-smi nach der Optimierung bei einigen GPUs „N/A“ für die Speichernutzung an? A: Dies tritt auf, wenn der Treiber zu Beginn der Initialisierung nicht in der Lage ist, VRAM dem VA-Speicherplatz des Hosts zuzuordnen. Ein Neustart mit der Anwendung „erhöhunguserva“ stellt in der Regel die Sichtbarkeit wieder her.

F: Ist WSL2 für 8-GPU-Mining-Setups geeignet? A: Nicht empfohlen – WSL2 läuft in einer schlanken VM mit festen VA-Einschränkungen und verfügt nicht über direkten PCIe-Passthrough für Multi-GPU-Rechenkontexte, die von den meisten Mining-Binärdateien benötigt werden.