文章目录

  • YOLOV5 目标检测算法部署
  • 一、本地部署
  • 1.安装pytorch
  • 2.yolov5模型下载
  • 3.yolov5安装测试
  • 4.安装Flask
  • 5.flask Hello World 演示
  • 二、云服务器部署
  • 1.安装部署
  • 2.释放端口
  • 3.后端部署
  • 4.前端部署
  • 5.screen 使用


YOLOV5 目标检测算法部署

一、本地部署

  • 演示系统环境:Ubuntu18.04 , pytorch1.7

1.安装pytorch

  • Anconda 安装
  • 下载地址:[Anaconda下载]
  • 找到当前路径(即下载好anconda包的文件夹)
bash ./Anaconda3-2020.07-Linux-x86_64.sh # 这里对应的是你下载的安装包
  • 添加Anaconda 国内镜像配置
conda config --add channels
https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels
https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes
  • 安装Pytorch
    首先为pytorch创建一个anaconda虚拟环境,环境名字(pytorch1.7),这个可以自己去设置
conda create -n pytorch1.7 python=3.8

安装成功之后激活pytorch1.7环境:

conda activate pytorch1.7

在创建的Pytorch环境下安装pytorch1.7版本指令如下:

conda install pytorch torchvision cudatoolkit=10.2 -c pytorch # GPU版本

conda install pytorch==1.7.0 torchvision==0.8.0 torchaudio==0.7.0 cpuonly -c pytorch #仅CPU版本

我这里配置的cpu去跑的,因为最终购买的云服务器也是cpu版本,如果是gpu版本的请往下看,cpu的可以不看

  1. 打开~/.bashrc文件,设置使用Pytorch1.7的环境为python3.8
vim ~/.bashrc  # 打开bashrc文件

# 添加路径
alias python='/home/lzq/anaconda3/envs/pytorch1.6/bin/python3.8'

# 上句指令中的用户名"lzq",需要修改成自己的用户名
# 保存并退出
source ~/.bashrc

#执行之后自动返回base环境,需要重新激活:
conda activate pytorch1.7

2.yolov5模型下载

  • 我用的是yolov5-3.1版本,如果想用其他版本,需要对应的权值文件,这里不在赘述

github代码链接

3.yolov5安装测试

  • 在yolov5路径下执行
python detect.py --source ./inference/images/ --weights weights/yolov5s.pt --conf 0.4

4.安装Flask

  • 在Pytorch1.7虚拟环境下执行
sudo apt-get install flask

sudo apt-get install jsonify

# 如果新增用户提示没有sudoer权限
可以执行一下指令,增加sudoer权限
sudo usermod -aG sudo <username> #这里的<username>指的是新增用户

5.flask Hello World 演示

  • 在pytorch1.7的环境下,在yolov5-3.1路径下运行:
python flaskhello.py 	# flask Hello World演示

sh run.sh		#yolov5-flask服务启动命令


当出现OSError: [Errno 98] Address already in use解决办法
netstat -tunlp
kill -9 5000 	# 杀死5000端口进程
  • 至此,yolov5本地基于cpu的环境执行完毕,
  • 效果展示
  • 在yolov5-3.1文件夹下执行
python flaskhello.py
  • 如上图所示,按ctrl+左键,进入 http://127.0.0.1:5000,显示效果如下图,证明模型没有问题,

怎么把yolov5部署到ios yolov5部署到服务器_深度学习

紧接着执行

sh run.sh

怎么把yolov5部署到ios yolov5部署到服务器_tensorflow_02

同样的,进入 http://127.0.0.1:5000 ,出现

怎么把yolov5部署到ios yolov5部署到服务器_python_03

进入链接http://0.0.0.0:8888,出现

怎么把yolov5部署到ios yolov5部署到服务器_怎么把yolov5部署到ios_04

上传图片测试,可以看到以下效果

怎么把yolov5部署到ios yolov5部署到服务器_怎么把yolov5部署到ios_05

二、云服务器部署

1、所谓云服务器部署,就是将在本地部署好的服务器部署到云端,由于云服务器的内存比较小,且没有图形化界面不容易调试,一定要确保在本地运行没有问题之后再部署到云端

2、其次就是关于传输问题,如何将yolov5模型文件传输到云服务器,这边提供一个阿里云的上传方式:文件从本地上传到轻量应用服务器

1.安装部署

后端部署(gunicorn部署)

前端部署(nginx部署)

2.释放端口

  • 部署过程将会占用两个端口,我的后端部署占用端口是5000,前端部署占用端口是80,在此之前需要释放端口5000,
  • 单击红色区域,进入云服务器。
  • 找到对应的防火墙\安全组页面,点击进去
  • 点击添加规则,
  • 端口范围窗口,输入5000

3.后端部署

  • 安装gunicorn
pip install gunicorn  # 云服务上默认是没有pip 工具的,需要根据提示安装

# 或者直接通过下面一行代码安装
sudo apt-get install pip  

#后端部署指令
gunicorn -w 2 -b 0.0.0.0:5000 flask_app:app
  • 当完成后端部署之后,可以通过IP地址访问到yolov5模型。

4.前端部署

# 安装nginx
sudo apt-get install nginx

# 新建配置文件
cd /etc/nginx/conf.d/ # 打开这个目录
vim index.conf # 创建index.conf,并通过vim方式将其打开,编辑请按 i, 退出编辑请按esc.

# 配置文件编写
server {
	listen 80;
	server_name 139.196.186.165;	 # 修改成自己的IP地址
	location / {
		root /home/lzq/yolov5-3.1;	 # 修改成自己的用户名
		index index.html index.htm;
		try_files $uri $uri/ /index.html;
	}
}

# 将算法部署到80端口,这样可以通过http://www.lzqlab.xyz或者http://lzqlab.xyz域名进行访问
server {
	listen 80;
	server_name www.lzqlab.xyz;	 # 修改成自己的IP地址
	location / {
		root /home/lzq/yolov5-3.1;	 # 修改成自己的用户名
		index index.html index.htm;
		try_files $uri $uri/ /index.html;
	}
}
server {
	listen 80;
	server_name lzqlab.xyz;	 # 修改成自己的IP地址
	location / {
		root /home/lzq/yolov5-3.1;	 # 修改成自己的用户名
		index index.html index.htm;
		try_files $uri $uri/ /index.html;
	}
}


# 紧接着更新配置文件:
sudo nginx -s reload

# 重启前端部署
sudo service nginx restart

5.screen 使用

在Linux系统中,通常我们在执行一些运行时间比较长的任务时,必须等待执行完毕才能断开SSH连接或关闭客户端软件,否则可能会导致执行中断。

使用管理终端screen执行,解决上述问题

  • 安装screen工具
    Linux系统默认没有screen工具,需要先安装。
# Ubuntu 系列系统安装命令如下所示
sudo apt-get install screen

使用说明

#1. 执行如下命令,创建screen窗口
screen -S [$name] # 名字可以自己取


#2. 列出screen窗口
screen -ls


#3. 当需要运行脚本、执行程序时,在命令前添加screen即可

#4. 然后使用ctrl + a,同时再按下d键,就可退出ssh登录,但不会影响screen程序的运行。

#5. 若需要继续工作时,登录实例,然后执行如下命令,恢复会话即可。 

#6. 如何进入到已运行的screen?
screen -r [$name]

# 7.如何干掉后端程序重启?
sudo pkill -9 gunicorn

引用:

Linux系统SSH客户端断开后保持进程继续运行配置方法