一、安装包文件准备

设备及软件版本

设备名称  DESKTOP-71FDQV3
处理器 12th Gen Intel(R) Core(TM) i5-12600K 3.70 GHz
机带 RAM 16.0 GB (15.8 GB 可用)
设备 ID 0FEB664E-6D33-405C-97E8-1D5D1571887B
产品 ID 00326-60000-00000-AA145
系统类型 64 位操作系统, 基于 x64 的处理器
笔和触控 没有可用于此显示器的笔或触控输入

GPU驱动:
NVIDIA GeForce RTX 3060

驱动程序版本: 27.21.14.6677
驱动程序日期: 2021/6/8
DirectX 版本: 12 (FL 12.1)
物理位置: PCI 总线 1、设备 0、功能 0

利用率 0%
专用 GPU 内存 0.0/12.0 GB
共享 GPU 内存 0.0/7.9 GB
GPU 内存 0.0/19.9 GB

准备开发环境时,需要确定安装TensorRT版本,再反过来确定cudnn版本,CUDA版本,这样就不会有问题了,免得下载版本不对又得重新下载。

下载地址:
TensorRT:​​​https://developer.nvidia.cn/nvidia-tensorrt-download​​​

cudnn:​​https://developer.nvidia.cn/rdp/cudnn-archive​

CUDA:​​https://developer.nvidia.cn/cuda-toolkit-archive​

或者下载
百度网盘:​​​https://pan.baidu.com/s/17K-snlqT2yD9ZIQ-GXEJOg​​ 提取码:7ad1

  • cuda_11.1.1_456.81_win10.exe
  • cudnn-11.2-windows-x64-v8.1.1.33.zip
  • TensorRT-8.0.3.4.Windows10.x86_64.cuda-11.3.cudnn8.2.zip

二、安装

  1. 首先安装CUDA,默认安装路径,直接下一步即可
  2. 解压缩​​cudnn-11.2-windows-x64-v8.1.1.33.zip​​​选中全部(include、lib、bin)复制到​​C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1​​目录下即可(自动合并include、lib、bin对应文件夹文件)
  3. 解压缩​​TensorRT-8.0.3.4.Windows10.x86_64.cuda-11.3.cudnn8.2.zip​​​分别将include、lib、bin三个目录中的内容复制到​​C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1​​对应的include、lib/x64、bin目录下即可

三、测试

  1. 用VS2019 打开​​TensorRT-8.0.3.4\samples\sampleMNIST\sample_mnist.sln​
  2. 右键工程 ->重新生成
  3. 进入TensorRT-8.0.3.4\bin,用cmd执行sample_mnist.exe --datadir=path/to/data/mnist/
  4. 如果显示下图执行成功则说明tensorRT 配置成功
  5. win10+CUDA11.1+cudnn11.1+TensorRT8.0开发环境搭建_解压缩

  6. 错误解决:找不到如下动态库,
    ​C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\lib\x64​​​下如下文件复制到
    ​C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin​​目录下。
nvinfer.dll
nvinfer_plugin.dll
nvonnxparser.dll
nvparsers.dll