Instalacja CUDA w systemie Windows nie musi być uciążliwa, jeśli wiesz, gdzie szukać i które wersje są kompatybilne. W tym praktycznym przewodniku krok po kroku przeprowadzę Cię przez wszystko, czego potrzebujesz, aby uruchomić zestaw narzędzi, odpowiedni sterownik i narzędzia weryfikacyjne, zarówno w natywnym systemie Windows, jak i z użyciem WSL. Chodzi o to, aby wyłączyć GPU. naprawdę przyspiesza Twoje obciążenia, bez niespodzianek w zakresie kompatybilności.
Oprócz podstawowej instalacji omówię praktyczne przypadki użycia i wymagania specjalne (takie jak ML.NET Model Builder z zależnościami starszych wersji), alternatywne metody instalacji z Condą i pip, integrację z Visual Studio oraz klasyczne testy deviceQuery i bandwidthTest. Pokażę również, jak diagnozować… typowe problemy ze sterownikami, wykrywanie GPU i niezgodność wersji CUDA, które zazwyczaj spowalniają ludzi za pierwszym razem.
Czym jest CUDA i dlaczego jest ważna w systemie Windows?
CUDA to platforma i model Programowanie NVIDIA do obliczeń równoległych, które pozwalają na przeniesienie najbardziej intensywnych części aplikacji na GPU. Procesor zajmuje się pracą sekwencyjną, a GPU masowo równoległy, każdy z własną pamięcią, co pozwala uniknąć wąskich gardeł i umożliwia jednoczesną pracę.
Procesory graficzne obsługujące CUDA mają setki lub tysiące rdzeni, które obsługują dziesiątki tysięcy wątków. Biblioteki takie jak cuBLAS, cuDNN i NVCC uzupełnij zestaw, aby móc kompilować, debugować i profilować oprogramowanie przyspieszane przez GPU w systemie Windows.
Wymagania systemowe i zgodność w systemie Windows
Przede wszystkim musisz sprawdzić, czy Twój system jest kompatybilny z wybranym zestawem narzędzi. W obecnych systemach Windows, Obsługa CUDA 13.0 U1: Windows 11 24H2, 23H2, 22H2-SV2; Windows 10 22H2; Windows Server 2022 i 2025.
Obsługiwane kompilatory i środowiska IDE: Visual Studio 2022 17.x (MSVC 193x) z C++ 11/14/17/20 i Visual Studio 2019 16.x (MSVC 192x) z C++ 11/14/17. obsługa VS2017 Zostało ono usunięte w CUDA 13.0, a w przypadku VS2015 jest ono przestarzałe od wersji CUDA 11.1, tak więc dostosuj swoje projekty.
Ważna uwaga dotycząca wersji 32-bitowej: Od wersji CUDA 12.0 nie ma już 32-bitowego zestawu narzędzi (natywnego ani wieloplatformowego). Sterowniki będą nadal obsługiwać 32-bitowe pliki binarne na komputerach GeForce. Architektura Ady; Hopper nie obsługuje już 32 bitów.
Zalecany sprzęt: karta graficzna NVIDIA z funkcją obliczeniową odpowiednią dla Twojej wersji (w przypadku scenariuszy ogólnych, wersja 3.0 lub nowsza; patrz oficjalna lista), wystarczająca ilość pamięci, a w niektórych przypadkach bardziej wymagająca. W przypadku Model Builder (klasyfikacja obrazów) co najmniej 6 GB pamięci VRAM dedykowane, natomiast do podstawowych zastosowań wymagane jest minimum 4 GB.
Sprawdź, czy masz kompatybilną kartę graficzną i jej wersję
Aby sprawdzić model procesora graficznego w systemie Windows: Ustawienia > System > Wyświetlacz > Ustawienia zaawansowane. Tam zobaczysz markę i model w obszarze Wyświetl informacje, bardzo przydatne do potwierdzenia kompatybilności.
Możesz również skorzystać z Menedżera zadań na karcie Wydajność i wybrać panel GPU, aby wyświetlić szczegóły. Jeśli się nie pojawi, otwórz Menedżer urządzeń i sprawdź Karty graficzne; Jeśli brakuje sterownika NVIDIA, zainstaluj go.
Aby sprawdzić instalację CUDA, otwórz program PowerShell lub polecenie CMD i uruchom nvcc --version o nvcc -V. Zwraca wersję kompilatora NVCC zainstalowany; jeśli nie odpowiada, ścieżka PATH zestawu narzędzi nie jest skonfigurowana lub nie został zainstalowany prawidłowo.
Jeśli potrzebujesz zaktualizować sterowniki, GeForce Experience zasugeruje najnowsze wersje lub pobierz je z oficjalnej strony ze sterownikami NVIDIA. Zaktualizowany sterownik zazwyczaj rozwiązuje problem. niezgodności zestawu narzędzi i błędów wykrywania.
Pobierz zestaw narzędzi NVIDIA CUDA: formaty i integralność
Przejdź na oficjalną stronę pobierania CUDA firmy NVIDIA i wybierz system Windows. Możesz wybrać instalator sieciowy (minimalny program do pobrania, a następnie pakiety na żądanie) lub pełny instalator (wszystko w pakiecie). Pełny instalator doskonale sprawdza się w przypadku komputerów offline lub wdrożenia korporacyjne.
Po pobraniu warto sprawdzić opublikowaną sumę kontrolną MD5, aby upewnić się, że plik nie jest uszkodzony. Jeśli skrót się nie zgadza, pobierz ponownie instalatora i unika późniejszych problemów.
Od wersji CUDA 13 sterownik NVIDIA nie jest już zawarty w zestawie narzędzi. Zainstaluj sterownik oddzielnie. Strona sterowników NVIDIA a następnie Zestaw narzędzi; unikaj mieszania niekompatybilnych wersji.
Instalacja w systemie Windows: tryb graficzny, cichy i rozpakowywania
Instalacja graficzna: Uruchom instalator i postępuj zgodnie z instrukcjami. Wybierz lokalizację, zaakceptuj licencję i wybierz Składniki takich jak Toolkit, Nsight Compute/Systems i przykłady.
Instalacja cicha: Możesz uruchomić instalator za pomocą -s dla trybu cichego i dodaj parametry dla konkretnych podpakietów. Jeśli nie chcesz automatycznego restartu, dodaj -n a na końcu możesz już przeprowadzić ponowne uruchomienie.
Ręczne rozpakowywanie: Za pomocą 7-Zip/WinZip można rozpakować cały pakiet i sprawdzić jego zawartość. Zestaw narzędzi znajduje się w folderze. Zestaw narzędzi CUDA i integrację z programem Visual Studio w katalogu o tej samej nazwie; pliki .dll i .nvi widoczne w katalogu głównym instalatora nie są plikami instalacyjnymi jako takimi.
Domyślna ścieżka zestawu narzędzi: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0. Podczas instalowania podpakietów Możesz wybrać tylko to, czego potrzebujesz (na przykład, nvcc_13.0 dla kompilatora, cudart_13.0 do czasu wykonania, cublas_13.0/cublas_dev_13.0, cufft_13.0, curand_13.0, cusolver_13.0, cusparse_13.0, nsight_compute_13.0, nsight_systems_13.0, nvrtc_13.0, nvdisasm_13.0, nvprune_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0Itp.). W ten sposób zmniejszasz zajmowaną powierzchnię i czas instalacji.
Odinstalowanie: Wszystkie podpakiety można usunąć w Panelu sterowania > Programy i funkcje. Przydatne, jeśli chcesz ponownie zainstalować wersję. limpia lub zmienić gałęzie nie pozostawiając żadnych pozostałości.
Modele sterowników w systemie Windows: WDDM vs TCC
W systemie Windows 10 i nowszych sterownik NVIDIA może działać w dwóch trybach: WDDM (dla urządzeń wyświetlających) i TCC (dla procesorów graficznych, takich jak Tesla czy niektóre modele Titan). Tryb można sprawdzić i zmienić za pomocą nvidia-smi na obsługiwanych kartach; większość nowoczesnych kart GeForce domyślnie używa WDDM.
Sprawdź instalację: nvcc, próbki i testy
Sprawdź wersję NVCC za pomocą nvcc -V. Jeśli polecenie działa, PATH i podstawowa instalacja jest już gotowa.
Sklonuj przykłady CUDA z GitHub na nvidia/cuda-samples, skompiluj je i uruchom deviceQueryPowinien wykryć Twoje urządzenie i zwrócić test zaliczony; jeśli nie, sprawdź sterownik i sprzęt.
Również działa bandwidthTest aby sprawdzić przepustowość łącza host-urządzenie. Jeśli testy zakończą się pomyślnie, komunikacja CPU-GPU jest OK. Wszelkie błędy zazwyczaj wskazują na sterowniki lub instalację zestawu narzędzi.
Integracja z programem Visual Studio i infrastrukturą projektu
Przykłady i Twoje projekty można skompilować przy użyciu rozwiązań VS 2019/2022. Szablony NVIDIA konfigurują projekt C++ z Tworzenie dostosowań CUDA dla Twojej wersji (na przykład CUDA 13.0 Runtime).
Pliki .props zestawu narzędzi: VS 2019 zawiera rekwizyty C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations i VS 2022 w C:\Program Files\Microsoft Visual Studio\2022\Professional\MSBuild\Microsoft\VC\v170\BuildCustomizations. Te trasy pozwalają VS znaleźć zasady i właściwości z CUDA.
W nowych projektach twórz z szablonów NVIDIA > CUDA dla zainstalowanej wersji. W istniejących projektach przejdź do Zależności kompilacji > Dostosowania kompilacji i zaznacz swoją wersję CUDA lub wskaż ją $(CUDA_PATH) jeśli zawsze chcesz używać najnowszej zainstalowanej wersji.
Po zainstalowaniu lub odinstalowaniu zestawów narzędzi sprawdź, czy $(CUDA_PATH) wskazuje na właściwy folder. Dostęp Zmienne środowiska Właściwości systemu umożliwiają sprawdzenie i ewentualną zmianę wartości.
Pliki z kodem CUDA muszą być oznaczone jako pliki typu CUDA C/C++. Możesz je dodać z Dodaj nowy element > NVIDIA CUDA 13.0 > Kod CUDA C/C++ w programie Visual Studio.
Zainstaluj CUDA za pomocą Conda i pip
Conda: NVIDIA publikuje pakiety na swoim kanale Anaconda (anaconda.org/nvidia) aby zainstalować pełny zestaw narzędzi lub określone poprzednie wersje. Aby przypiąć poprzednią wersję, dodaj etykieta wydania do polecenia install, a Conda rozwiąże zależności.
pip: NVIDIA udostępnia Wheels do instalacji komponentów CUDA zorientowanych głównie na środowisko wykonawcze Pythona. Najpierw zainstaluj nvidia-pyindex i upewnij się, że masz zaktualizowane pip i setuptools. Możesz dodać odpowiednią linię w swoim requirements.txt Jeśli wolisz.
Metapakiety dla systemu Windows dla CUDA 12 (cu12) pobierające dane z najnowszej dostępnej wersji: między innymi, nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12, nvidia-nvtx-cu12.
Te metapakiety instalują określone pakiety wersjonowane, na przykład z sufiksem cu129: nvidia-cublas-cu129, nvidia-cuda-cccl-cu129, nvidia-cuda-cupti-cu129, nvidia-cuda-nvcc-cu129, nvidia-cuda-nvrtc-cu129, nvidia-cuda-opencl-cu129, nvidia-cuda-runtime-cu129, nvidia-cuda-sanitizer-api-cu129, nvidia-cufft-cu129, nvidia-curand-cu129, nvidia-cusolver-cu129, nvidia-cusparse-cu129, nvidia-npp-cu129, nvidia-nvfatbin-cu129, nvidia-nvjitlink-cu129, nvidia-nvjpeg-cu129, nvidia-nvml-dev-cu129, nvidia-nvtx-cu129Pamiętaj, że CUDA Wheels nie zawiera narzędzi programistycznych, a jedynie środowisko uruchomieniowe.
Użycie pip oznacza, że środowisko CUDA jest powiązane ze środowiskiem Pythona. Jeśli planujesz kompilować lub uruchamiać poza tym środowiskiem, zainstaluj również Zestaw narzędzi na poziomie systemu aby uniknąć niespójności tras.
CUDA na WSL: Windows 11 i Windows 10 21H2
Systemy Windows 11 i Windows 10 21H2 (i nowsze) umożliwiają uruchamianie frameworków i bibliotek ML z akceleracją CUDA w WSL. Obejmuje to: PyTorch, TensorFlow, Docker i NVIDIA Container Toolkit, tak jak w przypadku macierzystego systemu Linux.
Krok 1: Zainstaluj sterownik NVIDIA z obsługą CUDA dla WSL z oficjalnej strony internetowej. Ten sterownik został zaprojektowany specjalnie w celu udostępnienia GPU w dystrybucjach. Linux na WSL.
Krok 2: Włącz WSL i dodaj dystrybucję opartą na glibc (Ubuntu/Debian). Zaktualizuj jądro z Windows Update i sprawdź, czy jest poprawne. 5.10.43.3 lub wyższy bieganie wsl cat /proc/version w programie PowerShell.
Krok 3: Postępuj zgodnie z instrukcją NVIDIA CUDA na WSL, aby zainstalować zestaw narzędzi w dystrybucji i/lub skonfigurować NVIDIA Docker. Będziesz mógł korzystać zwykły Linux płynie z przyspieszenie i doskonale oddzielają środowisko od hostującego systemu Windows.
Scenariusz z życia wzięty: laptop z systemami AMD i NVIDIA oraz błędy w wersjach 12.8/11.8
Załóżmy, że mamy Lenovo Ideapad 5 Pro z procesorem AMD Ryzen, iGPU AMD Radeon i kartą graficzną NVIDIA GeForce GTX dGPU. Podczas uruchamiania nvidia-smi pojawia się kierowca 526.56 i CUDA w wersji 12.0, ale próba instalacji CUDA 12.8 lub 11.8 nie wydaje się działać.
Klucze do zrozumienia: linia wersji CUDA nvidia-smi wskazuje maksymalną wersję środowiska uruchomieniowego CUDA obsługiwaną przez sterownik, a nie zainstalowany zestaw narzędzi. Sterownik 526.56 Obsługuje CUDA 12.0 i 11.8, ale nie 12.8, który wymaga znacznie nowszego sterownika (gałęzi 55x/56x). Zaktualizuj sterownik do nowszej wersji (Studio lub Game Ready DCH) ze strony NVIDIA i powtórz instalację.
Na komputerach hybrydowych sprawdź w Panelu sterowania NVIDIA lub Ustawieniach grafiki systemu Windows, czy aplikacja komputerowa korzysta z procesora graficznego NVIDIA. Jeśli procesor graficzny nie jest używany, nvidia-smi Może to powodować problemy lub frameworki mogą się załadować na procesorze graficznym AMD iGPU, który nie obsługuje CUDA. Rozważ czystą instalację sterownika i sprawdź, czy GeForce Experience wykrywa sprzęt.
Wymagania specjalne: ML.NET Model Builder (tylko klasyfikacja obrazów)
W przypadku scenariusza klasyfikacji obrazów za pomocą narzędzia Model Builder firma Microsoft wymaga określonego stosu: CUDA 10.1 i cuDNN 7.6.4. Należy zachować ostrożność, ponieważ nowsze wersje nie obsługują tego konkretnego przepływu.
Kluczowe kroki dotyczące cuDNN 7.6.4: pobierz plik ZIP dla CUDA 10.1, rozpakuj go i skopiuj cudnn64_7.dll z cuda\bin a C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin. Nie możesz mieć wielu wersji cuDNN jednocześnie usuwa pozostałości innych wersji, aby uniknąć konfliktów podczas wykonywania.
Wymagania sprzętowe dla tego scenariusza: co najmniej jeden procesor graficzny obsługujący CUDA i 6 GB dedykowanej pamięci. Jeśli nie masz lokalnego procesora graficznego, Model Builder może trenować na maszynach wirtualnych GPU. Lazurlub ostatecznie na procesorze, choć z dużo dłuższym czasem szkolenia.
Szybka diagnoza i rozwiązywanie typowych problemów
Karta graficzna nie pojawia się w Ustawieniach ani Menedżerze zadań: Otwórz Menedżera urządzeń, sprawdź sekcję Karty graficzne i zainstaluj odpowiedni sterownik. Brak sterownika. NVIDIASystem Windows nie będzie udostępniał procesora graficznego dGPU aplikacjom.
Sprawdź wersję CUDA systemu: uruchom PowerShell/CMD nvcc --version. Jeśli się nie uda, sprawdź, czy zestaw narzędzi jest zainstalowany i czy PATH dołącz folder bin z zestawu narzędzi.
Zestaw narzędzi nie wykrywa urządzeń CUDA: Sprawdź, czy sterownik jest aktualny i czy Twój procesor graficzny znajduje się na liście urządzeń obsługujących CUDA. deviceQuery y Test przepustowości Stanowią termometr potwierdzający, że stos sprzętowo-sterownikowo-narzędziowy odpowiada.
Nieprawidłowy tryb sterownika dla obliczeń: Na procesorze graficznym GPU obliczeniowego użyj nvidia-smi Aby sprawdzić/przełączyć TCC, jeśli to możliwe. W większości laptopowych kart GeForce, WDDM Jest to zamierzony tryb i nie można go zmienić.
Konflikty zależności z frameworkami Pythona: Jeśli używasz CUDA Wheels za pośrednictwem pip, pamiętaj, że obejmują one tylko środowisko wykonawcze i są powiązane ze środowiskiem wirtualnym. Aby kompilować rozszerzenia lub korzystać z narzędzi, zainstaluj również Zestaw narzędzi systemowychlub użyj Condy do zarządzania wszystkim naraz.
Przykłady, próbki i dobre praktyki
Aby sprawdzić wydajność i funkcjonalność, skompiluj i uruchom deviceQuery y bandwidthTest z rozwiązań VS w repozytorium próbek. Kompilacje zazwyczaj pozostawiają pliki binarne w ścieżkach takich jak Przykłady CUDA\v13.0\bin\win64\Wydanie jeśli zachowałeś wartości domyślne.
Aby zobaczyć potencjał CUDA na własne oczy, uruchom graficzne przykłady, takie jak particlesOprócz wersji demonstracyjnej pomogą Ci znaleźć odniesienia do korzystania z pamięć współdzielona i wzorów siatki/bloków we własnych projektach.
Alternatywy w chmurze z procesorami GPU
Jeśli nie chcesz zmagać się z lokalnymi sterownikami lub nie potrzebujesz szczytów mocy, możesz zdecydować się na instancje w chmurze z nowoczesnymi kartami graficznymi (A100, RTX 4090, A6000 itp.). Usługi te oferują natychmiastowe wdrożenie, szablony dla PyTorch/TensorFlow i opcja płacenia za zużycie, przydatne w przypadku intensywnego szkolenia lub szybkiego testowania.
Notatki i oznaczenia
Dokumentacja techniczna i pakiety NVIDIA mogą ulec zmianie bez powiadomienia. Zawsze sprawdzaj Informacje o wydaniu i zaktualizowane kompatybilności przed instalacją sterowników lub zestawów narzędzi w środowisku produkcyjnym.
OpenCL jest znakiem towarowym firmy Apple Inc., używanym na licencji Khronos Group. NVIDIA i jej logo są znakami towarowymi lub zastrzeżonymi znakami towarowymi NVIDIA Corporation w USA i innych krajach.
Przy odpowiednim sterowniku, odpowiednim zestawie narzędzi i kilku dobrze przeprowadzonych testach system Windows stanowi solidny fundament dla CUDA: można tworzyć za pomocą programu Visual Studio, weryfikować za pomocą oficjalnych próbek, uruchamiać struktury sztucznej inteligencji w WSL tak jak w systemie Linux, a jeśli utkniesz, możesz pobrać alternatywne instalatory (Conda/pip) lub nawet skorzystać z chmury, aby uniknąć zawieszenia; ważna rzecz polega na dostosowaniu wersji sterowników i zestawu narzędzi, potwierdzeniu, że używany jest procesor graficzny NVIDIA, oraz udzieleniu wsparcia deviceQuery/bandwidthTest aby mieć pewność, że wszystko jest zielone. Udostępnij ten poradnik, a więcej użytkowników dowie się, jak zainstalować CUDA w systemie Windows.