pytorchgpu利用率低 pytorchgpu要求_pytorchgpu利用率低

为什么安装PyTorch?

PyTorch是一个开源的Python机器学习库,基于Torch,用于自然语言处理等应用程序。2017年1月,由Facebook人工智能研究院(FAIR)基于Torch推出了PyTorch。它是一个基于Python的可续计算包,提供两个高级功能:
1、具有强大的GPU加速的张量计算(如NumPy)
2、包含自动求导系统的深度神经网络。
因为学习需要,并且对机器学习饱含热情(菜鸡流泪),我选择使用PyTorch

安装教程

环境要求

  • 操作系统:Ubuntu20.04
  • CPU:CPU: Intel Core i5-8300H @ 8x 4GHz
  • GPU: GeForce GTX 1050 Ti

如果要用Pytorch请准备1050以及以上的显卡。10系列以下的显卡上是运行不了最新版本的Pytorch的。

(1)安装CUDA(和驱动)环境

CUDA是什么?

CUDA:是Nvidia推出的只能用于自家GPU的并行计算框架。只有安装这个框架才能够进行复杂的并行计算。主流的深度学习框架也都是基于CUDA进行GPU并行加速的,几乎无一例外。还有一个叫做cudnn,是针对深度卷积神经网络的加速库。

下载安装CUDA

访问英伟达官网下载CUDA,https://developer.nvidia.com/cuda-downloads,建议下载runfile。

pytorchgpu利用率低 pytorchgpu要求_CUDA_02

Installation Instructions:
wget https://developer.download.nvidia.com/compute/cuda/11.1.1/local_installers/cuda_11.1.1_455.32.00_linux.run
sudo sh cuda_11.1.1_455.32.00_linux.run

文件比较大(3.2G),请耐心等待。

  • 执行sh安装的时候,可能会出现Existing package manager installation of the driver found.驱动已经存在的情况,直接选择continue,选择不安装driver
  • 聚焦光标到Driver 按空格,取消选中,聚焦install,enter安装
  • 安装完成之后,因为我们保留了原有的显卡驱动,显示WARNING: Incomplete installation不造成影响。

配置环境变量

$ sudo vim /etc/profile

## 编辑内容
#cuda
export PATH=/usr/local/cuda-11.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

$ wq!

$ source /etc/profile

pytorchgpu利用率低 pytorchgpu要求_新版本_03

  • 验证安装:
nvcc --version

pytorchgpu利用率低 pytorchgpu要求_pytorchgpu利用率低_04

CUDA安装成功。

(2)安装cudnn

什么是cudnn?
NVIDIA CUDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA CUDNN可以集成到更高级别的机器学习框架中,如谷歌的Tensorflow、加州大学伯克利分校的流行caffe软件。简单的插入式设计可以让开发人员专注于设计和实现神经网络模型,而不是简单调整性能,同时还可以在GPU上实现高性能现代并行计算。

选择版本:

  • 地址:https://developer.nvidia.com/rdp/cudnn-archive
  • pytorchgpu利用率低 pytorchgpu要求_CUDA_05

  • 选择cuDNN v8.0.3 (August 26th, 2020), for CUDA 11.0版本,(虽然我们安装的CUDA是11.1版本的,这是可选的最新版本了)进入之后,选择第一个包cuDNN Library for Linux (x86_64)下载,然后将其添加到CUDA的库中:
sudo cp cuda/include/* /usr/local/cuda/include/ 
sudo chmod a+r /usr/local/cuda/include/*

sudo cp cuda/lib64/* /usr/local/cuda/lib64/ 
sudo chmod a+r /usr/local/cuda/lib64/*

(3)安装Pytorch以及相关包

pip install torch==1.7.0+cu110 torchvision==0.8.1+cu110 torchaudio===0.7.0 -f https://download.pytorch.org/whl/torch_stable.html

pytorchgpu利用率低 pytorchgpu要求_pytorchgpu利用率低_07

验证:
终端打开pythohn3,import torch

python3
>>> import torch 
>>> x = torch.empty(5, 3) 
>>> print(x) 
tensor([[ 1.2419e+25,  4.5584e-41,  1.2419e+25],
        [ 4.5584e-41,  3.9624e+24,  4.5584e-41],
        [ 3.9079e+24,  4.5584e-41,  3.1902e+24],
        [ 4.5584e-41, -1.3674e-01,  4.5583e-41],
        [-1.3674e-01,  4.5583e-41, -1.3675e-01]])
>>>

pytorchgpu利用率低 pytorchgpu要求_CUDA_08

至此,PyTorch就安装成功了。在安装过程中,全套安装下来,文件大概有5~6G,真的需要耐心等待。