![从零开始大模型开发与微调:基于PyTorch与ChatGLM](https://wfqqreader-1252317822.image.myqcloud.com/cover/322/52842322/b_52842322.jpg)
2.2.2 PyTorch 2.0 GPU Nvidia运行库的安装
从CPU版本的PyTorch开始深度学习之旅完全是可以的,但却不是笔者推荐的。相对于GPU版本的PyTorch来说,CPU版本的运行速度存在着极大的劣势,很有可能会让读者的深度学习止步于前。
PyTorch 2.0 CPU版本的安装命令如下:
pip install numpy --pre torch torchvision torchaudio --force-reinstall --extra-index-url https://download.pytorch.org/whl/nightly/cpu
如果读者的计算机支持GPU,则继续下面本小节的重头戏,PyTorch 2.0 GPU版本的前置软件的安装。对于GPU版本的PyTorch来说,由于调用了NVIDA显卡作为其代码运行的主要工具,因此额外需要NVIDA提供的运行库作为运行基础。
对于PyTorch 2.0的安装来说,最好根据官方提供的安装命令进行安装,如图2-17所示。在这里PyTorch官方提供了两种安装模式,分别对应CUDA 11.7与CUDA 11.8。
![](https://epubservercos.yuewen.com/68977F/31397789204971206/epubprivate/OEBPS/Images/Figure-P31_1326.jpg?sign=1738886188-qSWHMEKhayzk12EHDniewJSgyIL08WEG-0-5311b2f79b8fa726e675e159a6c93e12)
图2-17 PyTorch官网提供的配置信息
从图中可以看到,这里提供了两种不同的CUDA版本的安装,作者经过测试,无论是使用CUDA 11.7还是CUDA 11.8,在PyTorch 2.0的程序编写上没有显著的区别,因此读者可以根据安装配置自行选择。下面以CUDA 11.7+cuDNN 8.2.0为例讲解它们的安装方法。
(1)安装CUDA。在百度搜索CUDA 11.7,进入官方下载页面,选择合适的操作系统安装方式(推荐使用exe(local)本地化安装方式),如图2-18所示。
![](https://epubservercos.yuewen.com/68977F/31397789204971206/epubprivate/OEBPS/Images/Figure-P31_1327.jpg?sign=1738886188-wHCC7qSeE2MgJ78dTpI5Cs6OtGfFwB86-0-3e07e3bc89e398910db981243b6eaa50)
图2-18 CUDA下载页面
此时下载的是一个.exe文件,读者自行安装时,不要修改其中的路径信息,直接使用默认路径安装即可。
(2)下载和安装对应的cuDNN文件。cuDNN的下载需要先注册一个用户,相信读者可以很快完成,之后直接进入下载页面,如图2-19所示。注意:不要选择错误的版本,一定要找到对应的版本号。另外,如果使用的是Windows 64位的操作系统,那么直接下载x86版本的cuDNN即可。
![](https://epubservercos.yuewen.com/68977F/31397789204971206/epubprivate/OEBPS/Images/Figure-P32_1366.jpg?sign=1738886188-h4NunYwPYD7AbrKr6WqIYHEGIx2I0Ics-0-cdb2cb1dad71c08ebd9a374bf08594ef)
图2-19 cuDNN下载页面
下载的cuDNN 8.2.0是一个压缩文件,将其解压到CUDA安装目录,如图2-20所示。
![](https://epubservercos.yuewen.com/68977F/31397789204971206/epubprivate/OEBPS/Images/Figure-P32_1367.jpg?sign=1738886188-J8TZCXC7Q0G94YOD5fIkeQGQNpwkU5e1-0-a5d3238355d79d5226102474f78c8fa4)
图2-20 解压cuDNN文件
(3)配置环境变量,这里需要将CUDA的运行路径加到环境变量Path的值中,如图2-21所示。如果cuDNN是使用.exe文件安装的,那这个环境变量自动就配置好了,读者只要验证一下即可。
![](https://epubservercos.yuewen.com/68977F/31397789204971206/epubprivate/OEBPS/Images/Figure-P32_1368.jpg?sign=1738886188-m2CeM6ZthIeSCE5KyaBDZftZJHktltWV-0-68f7e443074cfd0eff36326742c29354)
图2-21 配置环境变量
(4)安装PyTorch及相关软件。从图2-17可以看到,对应CUDA 11.7的安装命令如下:
conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
如果读者直接安装Python,没有按2.1.1节安装Miniconda,则PyTorch安装命令如下:
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
完成PyTorch 2.0 GPU版本的安装后,接下来验证一下PyTorch是否安装成功。