8개 이상의 GPU에 대해 가상 메모리를 구성하는 방법은 무엇입니까? (윈도우 수정)

다중 GPU 설정의 가상 메모리 제약 조건 이해

1. Windows는 전역이 아닌 프로세스별로 가상 메모리를 할당하며 각 GPU 바인딩 애플리케이션(특히 암호화폐 채굴기 또는 AI 훈련 프레임워크)은 대규모 연속 가상 주소 공간을 요청할 수 있습니다.

2. 8개 이상의 GPU를 사용하는 경우 드라이버 수준 메모리 매핑, PCIe BAR 할당 및 CUDA 컨텍스트 초기화에는 64비트 Windows의 기본 4GB 사용자 모드 제한보다 훨씬 더 높은 가상 주소 공간이 필요합니다.

3. 가상 메모리 부족은 "CUDA_ERROR_MEMORY_ALLOCATION", "장치 컨텍스트 초기화 실패"로 나타나거나 명확한 오류 코드 없이 커널 실행 중 자동 충돌이 발생합니다.

4. Windows 페이지 파일 크기만으로는 이 문제가 해결되지 않습니다. 가상 주소 공간 고갈은 실제 RAM 또는 페이징 파일 용량과 다릅니다.

확장된 주소 공간에 대한 부팅 구성 수정

1. 관리자로 명령 프롬프트를 실행하고 bcdedit /set raiseuserva 3072를 실행하여 사용자 모드 가상 주소 공간을 2GB(레거시 부팅의 기본값) 또는 4GB(표준 UEFI)에서 3GB로 늘립니다.

2. 메모리 집약적 커널을 실행하는 8개 이상의 GPU가 있는 시스템의 경우 bcdedit /set 증가userva 4096을 사용하여 최대 4GB의 사용자 모드 VA 공간을 할당합니다. 이를 위해서는 호환되는 바이너리에서 "/LARGEADDRESSAWARE" 플래그를 활성화해야 합니다.

3. 변경 사항을 적용한 후 재부팅합니다. bcdedit /enum 으로 확인하고 활성 부팅 항목 아래에 "increaseuserva"가 나타나는지 확인하세요.

4. 전체 64비트 VA를 지원하는 Windows Server 버전을 사용하지 않는 한 4096을 초과하는 값은 피하십시오. 소비자 Windows 버전은 x64에서도 사용 가능한 사용자 VA를 ~4GB로 제한합니다.

GPU 드라이버 및 PCIe 구성 조정

1. NVIDIA 제어판을 통해 불필요한 GPU 기능을 비활성화합니다. PhysX, 3D Vision 및 GPU 가속 Windows 애니메이션을 꺼서 운전자 측 가상 주소 소비를 줄입니다.

2. 장치 관리자에서 각 GPU의 속성 → 리소스 → 설정 변경을 열고 기본 GPU가 렌더링이 아닌 컴퓨팅에만 사용되는 경우 기본 GPU가 아닌 경우 "버스 마스터링 활성화"를 선택 취소합니다.

3. mmcfg 레지스트리 조정을 사용합니다. HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\PCI 로 이동하고 "MmConfig" DWORD를 1로 설정하여 메모리 매핑된 구성 공간을 강제로 적용하여 여러 PCIe 루트 콤플렉스에서 BAR 할당 효율성을 향상시킵니다.

4. 모든 GPU가 동일한 CPU 소켓에 연결된 슬롯에 설치되어 있는지 확인합니다. 크로스 소켓 PCIe 라우팅은 NUMA 인식 드라이버 매핑으로 인해 VA 조각화를 증가시킵니다.

컴퓨팅 워크로드를 위한 페이지 파일 최적화

1. NVMe SSD에 고정 크기 페이지 파일을 설정합니다(최소 = 16GB, 최대 = 32GB). 메모리가 부족할 때 대기 시간이 급증하므로 시스템 관리 크기 조정을 피하세요.

2. NVMe 드라이브가 여러 개 있는 경우 페이지 파일을 여러 개의 빠른 저장 장치에 배포하고 4-GPU 그룹당 하나를 할당하여 동시 메모리 덤프 중에 I/O 경합의 균형을 맞춥니다.

3. 페이지 파일 압축을 비활성화합니다. fsutilbehavior set disablelastaccess 1 및 fsutilbehavior set disablelastaccess 0을 실행하여 대기 시간이 짧은 스왑 작업을 방해하는 NTFS 메타데이터 오버헤드를 재설정합니다.

4. 작업 관리자 → 성능 → 메모리 → 요금 커밋에서 페이지 파일 표시 여부를 확인합니다. 8개의 GPU가 모두 활성화되어 모델을 로드하는 경우 "전체"는 "제한"을 최소 8GB 초과해야 합니다.

자주 묻는 질문

Q: userva를 늘리면 시스템 안정성에 영향을 미치나요? A: 아니요. 이는 커널/사용자 VA 분할만 조정합니다. 커널 공간은 비례적으로 줄어들지만 Windows 10/11 빌드 1904x 이상의 표준 드라이버 및 서비스에는 충분합니다.

Q: Windows 11 Home 에디션에 raiseuserva를 적용할 수 있나요? A: 예. bcdedit는 Home을 포함한 모든 Windows 11 버전에서 동일하게 작동합니다. 그룹 정책이나 Pro 라이선스 요구 사항은 적용되지 않습니다.

Q: 조정 후 nvidia-smi가 일부 GPU의 메모리 사용량에 대해 "N/A"를 표시하는 이유는 무엇입니까? A: 이는 드라이버가 초기화 초기에 VRAM을 호스트 VA 공간에 매핑하지 못할 때 발생합니다. 일반적으로 raiseuserva를 적용하여 재부팅하면 가시성이 복원됩니다.

Q: WSL2는 8-GPU 채굴 설정에 적합합니까? A: 권장되지 않음 - WSL2는 고정 VA 제약 조건이 있는 경량 VM 내에서 실행되며 대부분의 마이닝 바이너리에 필요한 다중 GPU 컴퓨팅 컨텍스트에 대한 직접 PCIe 패스스루가 부족합니다.