显卡nvidia的CUDA和cuDNN的安装

2024-06-20 21:52
文章标签 显卡 nvidia cuda cudnn 安装

本文主要是介绍显卡nvidia的CUDA和cuDNN的安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

显卡版本,和nvidia下载的 CUDA版本和CUDNN的关系

1. 显卡版本

nvidia-smi

硬件环境:显卡版本 4090 + NVIDIA-SMI-555.85

我的驱动是510.85.02,驱动附带cuda=12.5

 2. nvidia下载的cuda版本 

nvcc -V

我下载的是cuda12.5

cuda在安装版本过程中需要确定安装版本!!!
在安装之前呢,我们需要确定三件事
第一:查看显卡支持的最高CUDA的版本,以便下载对应的CUDA安装包。由于我电脑windows版本可以支持到12.5的版本,可以选择12.5以下的版本。
第二:查看对应CUDA对应的VS版本,以便下载并安装对应的VS版本(vs需要先安装)(一般用VS2019/vs2022即可)CUDA12.5适配VS2022

确定CUDA版本支持的VS版本

查询官方安装文档,这里给出文档地址:https://docs.nvidia.com/cuda/archive/11.6.0/cuda-installation-guide-microsoft-windows/index.html

下载vs2022

下载地址:https://visualstudio.microsoft.com/zh-hans/?rr=https://www.microsoft.com/zh-cn/

安装Microsoft Visual C++ 2022

下载地址:最新支持的Visual C++ 可再发行程序包下载 | Microsoft Docs

 Visual Studio 2019 Community 社区版(免费版)
简体中文版下载地址:Thank You for Downloading Visual Studio Community Edition

注意,需要选择C++开发模块,其它根据自己的需求安装就好了~

第三:确定CUDA版本对应的cuDNN版本,因为在cudnn的下载页面会列出每个版本对应的cuda版本,11.x以上对应的范围很宽

在NVIDIA官方网站即可下载,地址为:https://developer.nvidia.com/rdp/cudnn-archive

3. 下载CUDA toolkit 和cuDNN

windows10 和win11安装 CUDA ,首先需要下载两个安装包

CUDA toolkit(toolkit就是指工具包)
cuDNN 用于配置深度学习使用

官方教程

CUDA:CUDA Installation Guide for Microsoft Windows

Overview — NVIDIA cuDNN v9.2.0 documentationcuDNN:Overview — NVIDIA cuDNN v9.2.0 documentation

 CUDA toolkit Download

CUDA Toolkit Archive | NVIDIA Developer

由于我电脑windows版本可以支持12.5的版本,一般最好不要安装最新的。

1. 安装cuda时,第一次会让设置临时解压目录,第二次会让设置安装目录

临时解压路径,建议默认即可,也可以自定义。

安装结束后,临时解压文件夹会自动删除;

安装目录,建议默认即可;

注意:临时解压目录不要和cuda的安装路径设置一样,否则安装结束,会找不到安装目录!此处我将临时安装目录设置到非系统盘路径,但是注意要选择空文件夹,否则会报错。

选择自定义安装

安装完成后,配置cuda的环境变量;

命令行中,测试是否安装成功;

双击“exe文件”,选择下载路径(推荐默认路径)
 

2. 自定义安装,精简版本是下载好所有组件,并且会覆盖原有驱动,所以在这里推荐自定义下载。

3. 如果是第一次安装,尽量全选;如果是第n次安装,尽量只选择第一个CUDA,不然会出现错误。

如果电脑上没有安装vs,需要把CUDA里面的Visual Studio Integration取消勾选,否则会安装不成功。但最好是一般都需要安装完vs再安装CUDA

选择默认位置:

在这里我遇到了一个问题:

在安装过程中说Nsight Compute 安装失败,所以先跳过这个模型,不选它,准备后续再安装这个模块。本来想参照CUDA安装失败-Nsight compute安装失败-如何测试CUDA是否安装成功?Reason: VS** was not found-CSDN博客

后续查找资料说是因为VS和cuda版本不匹配导致的,因此我又下载了VS2022,重新进行了CUDA的安装,这次直接成功!

4.查看环境变量:

设置/查看高级系统设置/环境变量/

5. 验证CUDA是否安装成功:

运行cmd,输入nvcc --version 即可查看版本号;set cuda,可以查看 CUDA 设置的环境变量。

cuDNN配置

1. cuDNN地址如下,不过要注意的是,我们需要注册一个账号,才可以进入到下载界面。大家可以放心注册的。找到对应CUDA版本的cuDNN,下载压缩包

cuDNN Download | NVIDIA Developer

2. cuDNN叫配置更为准确,我们先把下载的 cuDNN 解压缩,会得到下面的文件:

解压后,有三个文件夹,把三个文件夹拷贝到cuda的安装目录下。

3. CUDA 的安装路径在前面截图中有,或者打开电脑的环境变量查看,默认的安装路径如下:

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5

4. 分别把文件夹的内容复制到对应文件夹中去。拷贝时看到,CUDA 的安装目录中,有和 cuDNN 解压缩后的同名文件夹,这里注意,不需要担心,直接复制即可。cuDNN 解压缩后的同名文件夹中的配置文件会添加到 CUDA安装目录中的同名文件夹中。

需要几次允许管理员操作。

5. cuDNN 其实是 CUDA 的一个补丁,专为深度学习运算进行优化的。然后再添加环境变量

往系统环境变量中的 path 添加如下路径(根据自己的路径进行修改):

设置/查看高级系统设置/环境变量/系统变量/Path/编辑/新建

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\libnvvp

6. 验证配置是否成功
配置完成后,我们可以验证是否配置成功,主要使用CUDA内置的deviceQuery.exe 和 bandwidthTest.exe:

启动cmd,cd到安装目录下的 …\extras\demo_suite,然后分别执行bandwidthTest.exe和deviceQuery.exe(进到目录后需要直接输“bandwidthTest.exe”和“deviceQuery.exe”),

cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5
cd .\extras\demo_suite
.\bandwidthTest.exe
.\deviceQuery.exe

最后,CUDA是一个十分折磨人的程序,但是只要版本对应就比较好安装,最主要还是要看VS/CUDA/cuDNN以及电脑本身显卡版本的匹配。祝大家安装一次到位!!

这篇关于显卡nvidia的CUDA和cuDNN的安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1079359

相关文章

ESP32 esp-idf esp-adf环境安装及.a库创建与编译

简介 ESP32 功能丰富的 Wi-Fi & 蓝牙 MCU, 适用于多样的物联网应用。使用freertos操作系统。 ESP-IDF 官方物联网开发框架。 ESP-ADF 官方音频开发框架。 文档参照 https://espressif-docs.readthedocs-hosted.com/projects/esp-adf/zh-cn/latest/get-started/index

Linux 安装、配置Tomcat 的HTTPS

Linux 安装 、配置Tomcat的HTTPS 安装Tomcat 这里选择的是 tomcat 10.X ,需要Java 11及更高版本 Binary Distributions ->Core->选择 tar.gz包 下载、上传到内网服务器 /opt 目录tar -xzf 解压将解压的根目录改名为 tomat-10 并移动到 /opt 下, 形成个人习惯的路径 /opt/tomcat-10

VMware9.0详细安装

双击VMware-workstation-full-9.0.0-812388.exe文件: 直接点Next; 这里,我选择了Typical(标准安装)。 因为服务器上只要C盘,所以我选择安装在C盘下的vmware文件夹下面,然后点击Next; 这里我把√取消了,每次启动不检查更新。然后Next; 点击Next; 创建快捷方式等,点击Next; 继续Cont

vcpkg安装opencv中的特殊问题记录(无法找到opencv_corexd.dll)

我是按照网上的vcpkg安装opencv方法进行的(比如这篇:从0开始在visual studio上安装opencv(超详细,针对小白)),但是中间出现了一些别人没有遇到的问题,虽然原因没有找到,但是本人给出一些暂时的解决办法: 问题1: 我在安装库命令行使用的是 .\vcpkg.exe install opencv 我的电脑是x64,vcpkg在这条命令后默认下载的也是opencv2:x6

【服务器运维】CentOS6 minimal 离线安装MySQL5.7

1.准备安装包(版本因人而异,所以下面的命令中版本省略,实际操作中用Tab自动补全就好了) cloog-ppl-0.15.7-1.2.el6.x86_64.rpmcpp-4.4.7-23.el6.x86_64.rpmgcc-4.4.7-23.el6.x86_64.rpmgcc-c++-4.4.7-23.el6.x86_64.rpmglibc-2.12-1.212.el6.x86_64.r

【服务器运维】CentOS7 minimal 离线安装 gcc perl vmware-tools

0. 本机在有网的情况下,下载CentOS镜像 https://www.centos.org/download/ 1. 取出rpm 有的情况可能不需要net-tools,但是如果出现跟ifconfig相关的错误,就把它安装上。另外如果不想升级内核版本的话,就找对应内核版本的rpm版本安装 perl-Time-Local-1.2300-2.el7.noarch.rpmperl-Tim

Windows/macOS/Linux 安装 Redis 和 Redis Desktop Manager 可视化工具

本文所有安装都在macOS High Sierra 10.13.4进行,Windows安装相对容易些,Linux安装与macOS类似,文中会做区分讲解 1. Redis安装 1.下载Redis https://redis.io/download 把下载的源码更名为redis-4.0.9-source,我喜欢跟maven、Tomcat放在一起,就放到/Users/zhan/Documents

Ubuntu20.04离线安装Docker

1.下载3个docker离线安装包,下载网址: https://download.docker.com/linux/ubuntu/dists/xenial/pool/stable/amd64/ 2.把3个离线安装包拷贝到ubuntu本地执行以下命令 sudo dpkg -i containerd.io_1.4.6-1_amd64.deb sudo dpkg -i docker-ce-c

Windows中,.net framework 3.5安装

安装.net framework,目前已知2种方法,如下: 一、在MSDN下载对应的安装包,安装,这种可能无法安装成功,概率很大,不成功使用第二种方法,基本上没问题。 二、win8/8.1/10 下安装 .net framework 3.5.1: 1. 打开 win8/8.1/10 安装盘(这里指系统安装镜像文件),提取 sources\sxs 文件夹到 X:\sources\sxs (X代

MySQL理解-下载-安装

MySQL理解: mysql:是一种关系型数据库管理系统。 下载: 进入官网MySQLhttps://www.mysql.com/  找到download 滑动到最下方:有一个开源社区版的链接地址: 然后就下载完成了 安装: 双击: 一直next 一直next这一步: 一直next到这里: 等待加载完成: 一直下一步到这里