deepstream编写python插件部署yolo

ubuntu18.04 安装 cuda11.1 + cudnn8.1 + TensorRT 7.2.3.4 + Deepstream 5.1

可以参考官方安装教程：
https://docs.nvidia.com/metropolis/deepstream/dev-guide/text/DS_Quickstart.html#remove-all-previous-deepstream-installations

嫌麻烦的话就直接按照我的每一步操作即可。
下面两张图是安装deepstream5.1的环境要求，并不需要严格按照这个来，一般高版本的兼容低版本
nvidia驱动不是460.32，也可以安装，我的是465.27 ，这个驱动直接在ubuntu的软件和更新中就可以安装，很方便

其次就是cuda要安装11.1版本的，11.0的会各种报警

如果显卡版本太低则先卸载显卡驱动重装，满足条件则跳过此步骤

#卸载显卡重装
sudo apt-get remove nvidia*    #注意此时千万不能重启，重新电脑可能会导致无法进入系统。
sudo apt-get install autoremove --purge nvidia*
sudo /usr/bin/nvidia-uninstall

1、安装依赖

#-------------------安装依赖-----------------------------------
sudo apt install \
libssl1.0.0 \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstrtspserver-1.0-0 \
libjansson4

2、安装cuda11.1

#-------------------安装cuda11.1------------------------------------
sudo sh cuda_11.1.0_455.23.05_linux.run

3、安装cudnn8.1

#------------------安装cudnn8.1-------------------------------------
tar -xzvf cudnn-11.2-linux-x64-v8.1.1.33.tgz
sudo cp cuda/include/* /usr/local/cuda/include/
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64/
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

然后添加环境变量

sudo gedit ~/.bashrc

粘贴如下内容

#cuda-11.1 need
export PATH=/usr/local/cuda-11.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

刷新

source ~/.bashrc

查看cuda版本

nvcc -V

4、安装Tensorrt 7.2.3.4

#------------------安装tensorrt 7.2.3.4-------------------------------------
#解压下载好的按转包
tar -xzvf TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-11.1.cudnn8.1.tar.gz  #对应11.1
#解压后复制到/home/zxl 目录下, zxl是我的用户名，你可以换成自己的


#复制TensorRT路径下/lib、/include文件夹到对应系统文件夹
cd ~/TensorRT-7.2.3.4/
sudo cp -r ./lib/* /usr/lib      # 在TensorRT-7.2.3.4路径下执行
sudo cp -r ./include/* /usr/include      # 在TensorRT-7.2.3.4路径下执行

然后添加环境变量

sudo gedit ~/.bashrc

粘贴如下内容，注意zxl改成你自己的账户名

#tensorrt7.2.3 need
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/zxl/TensorRT-7.2.3.4/lib

刷新

source ~/.bashrc

5、 conda 创建trt环境

#4、先创建trt环境 选用python3.8版本，创建完成后激活环境
conda create -n py38trt7234 python=3.8
conda activate py38trt7234

#5、安装tensorrt
cd ~/TensorRT-7.2.3.4/python
pip install tensorrt-7.2.3.4-cp38-none-linux_x86_64.whl

#6、安装Python UFF wheel文件。只有当你将TensorRT与TensorFlow一起使用时才需要安装这个文件  用处：pb转tensorRT
cd ~/TensorRT-7.2.3.4/uff
pip install uff-0.6.9-py2.py3-none-any.whl

#7、安装Python graphsurgeon whl文件   用处：可以让TensorRT 自定义网络结构
cd ~/TensorRT-7.2.3.4/graphsurgeon
pip install graphsurgeon-0.4.5-py2.py3-none-any.whl

#注意trt7.0的版本没有这个包(不用装)
#8、安装Python onnx-graphsurgeon whl文件  
cd ~/TensorRT-7.2.3.4/onnx_graphsurgeon
pip install onnx_graphsurgeon-0.2.6-py2.py3-none-any.whl

#8、安装pycuda  可以通过它来实现python 下CUDA 的编程
#pip install 'pycuda>=2019.1.1'   或者如下
pip install pycuda

#9、验证安装,打印出tensorrt版本，即安装成功
python
import tensorrt
tensorrt.__version__

6、安装librdkafka

#---------------安装librdkafka----------------------------------------
$ git clone https://github.com/edenhill/librdkafka.git

$ cd librdkafka
$ git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
./configure
$ make
$ sudo make install

$ sudo mkdir -p /opt/nvidia/deepstream/deepstream-5.1/lib
$ sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-5.1/lib

7、安装DeepStream 5.1

先下载安装包再执行下面安装

#---------------安装DeepStream 5.1----------------------------------------
$ sudo tar -xvf deepstream_sdk_v5.1.0_x86_64.tbz2 -C /
$ cd /opt/nvidia/deepstream/deepstream-5.1/
$ sudo ./install.sh
$ sudo ldconfig

查看安装情况

$ deepstream-app --version-all

至此安装成功