1 课程学习本节课主要对于大白AI课程：《Pytorch模型推理及多任务通用范式》课程中的第二节课进行学习。2 作业题目题目描述必做题：
（1） 从torchvision中加载resnet18模型结构，并载入预训练好的模型权重 'resnet18-5c106cde.pth' (在物料包的weights文件夹中)。
（2） 将（1）中加载好权重的resnet18模型，保存成onnx文件。
一 Value-BasedQ-LearningQ-Learning是RL算法中Value-Based的算法，Q即为Q(s,a)就是在某一时刻的s状态下(s∈S)，采取 动作a (a∈A)能够获得收益的期望，环境会根据agent的动作反馈相应的回报reward。所以算法的主要思想就是将State与Action构建成一张Q-table来存储Q值，然后根据Q值来选取能够获得最大的收益的动作。 下面是Q-
转载
2024-09-12 08:39:36
501阅读
Matlab Engine是Mathworks提供的一种混合编程方案，其采用C/S（客户机/服务器）模式，Matlab作为后台服务器，而用户程序（一般是C/C++）通过Matlab Engine提供的函数接口控制服务器执行相应的语句（关于Matlab Engine编程例子参考Matlab自带的engdemo.c，在<MATLABROOT>/extern/exampleseng_mat/
转载
2024-07-24 15:56:39
114阅读
traits 是Scala中能够被重用的一种基本单元。 trait 中封装了方法和字段定义，这样就可以将他们混合成类。和类的继承不同的是，类必须是单继承的，但是一个类中可以混有多个 trait. 这一章就是为你展现 trait 是如何工作的，并且展现了两个最常见的有用的方式：扩宽瘦接口到胖接口（widening thin interfaces to rich ones），并且定义了可存储的更改
1. 前言本篇笔记主要分析faiss code下的python接口文件——faiss.py的工作流程以及内容。2. faiss.py分析2.1 导入文件在faiss code 编译完成后，在python目录下执行make/make install命令后，会在该文件下产生faiss.py, faiss/, faiss.egg-info/等文件和目录，其中faiss.py和faiss/目录下的__in
转载
2024-10-22 10:44:06
82阅读
Python的推导式python的推到式(列表推导式，字典推导式，集合推导式)推导式：comprehensions(解析式)是python中独特的特性，推到式是可以从一个数据结构序列构件另外一个数据三种推导式1、列表推导式2、字典推导式3、集合推导式·列表推导式1、使用[]生成一个列表list基本格式v(变量) = [每一个元素的运算法则 for 变量 in 可迭代对象 if布尔表达式]1、运算法
转载
2024-07-28 23:07:39
33阅读
原创
2021-09-07 14:04:54
2411阅读
什么是Twisted1.Twisted是一个基于Reactor模式的异步IO网络框架首先说下什么是Reactor模式。Reactor模式就是利用循环体来等待事件发生，然后处理发生的事件的模式，如上图所示。Reactor主要有如下两个功能：监视一系列与你I/O操作相关的文件描述符(description)。监视文件描述符的过程是异步的，也就是说整个循环体是非阻塞的；不停地向你汇报那些准备好的I/O操
为了保证深度神经网络训练过程的稳定性，经常需要细心的选择初始化方式，并且选择较小的学习率数值，这无疑增加了任务的复杂性。为此，Google团队提出了Batch Normalization【1】方法(简称BN)用于帮助网络更好的训练。1、理论分析BN计算的第一步是对每一层进行独立的归一化：其中k表示第k维特征，E表示求期望，Var表示求方差。这种归一化操作可能会改变这层的表示，所以作者提出了“ide
转载
2023-12-10 20:24:03
60阅读
K近邻算法原理下图中，绿色圆要被决定赋予哪个类，是红色三角形还是蓝色四方形？如果K=3，由于红色三角形所占比例为2/3，绿色圆将被赋予红色三角形那个类，如果K=5，由于蓝色四方形比例为3/5，因此绿色圆被赋予蓝色四方形类。 K 最近邻 (k-Nearest Neighbor，KNN) 分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一，1968年由 Cover 和 Hart 提出
转载
2024-05-10 16:10:46
116阅读
楔子上一篇我们介绍了生成器，本来这里应该介绍协程的，但是大致阅读了一下，感觉如果从源码的角度来介绍协程的话，工作量太大。而且个人精力有限，所以推荐我写的这一篇博客：，是用来介绍asyncio的，当然也从Python的角度介绍了Python中的协程。这一次我们说一下Python模块的加载机制，我们之前所考察的所有内容都具有一个相同的特征，那就是它们都局限在一个py文件中。然而现实中不可能只有一个py
转载
2024-05-14 22:11:02
116阅读
A.逻辑推理 1、你让工人为你工作7天，给工人的回报是一根金条。金条平分成相连的7段 ，你必须在每天结束时给他们一段金条，如果只许你两次把金条弄断，你如何给你 的工人付费？ 2、请把一盒蛋糕切成8份，分给8个人，但蛋糕盒里还必须留有一份。 3、小明一家过一座桥，过桥时是黑夜，所以必须有灯。现在小明过桥要1秒，
转载
2024-07-29 21:58:31
58阅读
1. TensorRT 的简介和安装TensorRT 是一种基于英伟达硬件的高性能的深度学习前向推理框架，本文介绍使用 TensorRT 在通用 GPU 上的部署流程。本地需先安装 CUDA，以 CUDA11.0、TensorRT-8.2.5.1 为例。首先，去 官网 下载（需先登录）对应的压缩包。Python 安装文件 whl 位于解压后根目录下的 python 文件夹内，pip 安装对应版本即
转载
2023-10-12 13:15:54
564阅读
# Python 多卡分片推理教程
在机器学习和深度学习项目中，模型推理的速度往往是一个重要的性能指标。通过使用多张显卡进行推理，可以显著提高处理速度。在这篇文章中，我们将详细介绍如何在 Python 中实现多卡分片推理的流程和具体代码示例。
## 流程概述
以下是实现 Python 多卡分片推理的主要步骤：
| 步骤 | 描述 |
|--
[ ] Python 初阶坦克大战游戏项目进程(游戏每个阶段增添的新功能会单独发一个版本,这样有一个清晰的思路,不会一团乱麻) 坦克大战版本v1.01'''
v1.01
实现框架的搭建(类的设计)
主逻辑类
开始
移动
坦克类
移动
射击
我方坦克
敌方坦克
子弹类
子弹伤害
爆炸类
展示爆炸效果
墙壁类
音效类
展示音效
停止音效
在批评Python的讨论中，常常说起Python多线程是多么的难用。还有人对 global interpreter lock(也被亲切的称为“GIL”)指指点点，说它阻碍了Python的多线程程序同时运行。因此，如果你是从其他语言(比如C++或Java)转过来的话，Python线程模块并不会像你想象的那样去运行。必须要说明的是，我们还是可以用Python写出能并发或并行的代码，并且能带来性能的显著
转载
2024-03-11 16:45:35
94阅读
目录1、常用设定2、模型训练2.1、单GPU训练2.2、使用多个GPU进行训练3、模型推理1、常用设定1）默认使用4个GPU的分布式训练。2）ImageNet上所有pytorch样式的预训练主干都是由open-lab团队自己训练的，参考文章https://arxiv.org/pdf/1812.01187.pdf。其中ResNet样式主干基于ResNetV1c变体，其中输入主干中的7x7转换被三个3
转载
2024-08-23 07:56:00
276阅读
tensorrt, batch1. trtexec编译trtexec地址参考官方的说明，进行项目编译2. 模型转换pytorch->onnx的时候，需要在动态尺寸上定义好，例如：dynamic_axes =
原创
2021-09-06 17:17:59
10000+阅读
1评论
再看看纯集成显卡GPU的mobilenet-ssd 的推理性能, 测试平台是i5 7440HQ, 4核4线程, GPU是Gen9 的GT2, 24EU, 属于纯大白菜集成显卡 首先是FP32模型当Batch size =1时inference request(nireq) = 1时，即同时只有一个推理请求Latency = 13.6ms, Throughtput = 73FP
转载
2024-03-17 14:51:24
252阅读
最近在做李宏毅的深度学习的作业，导入模型的时候，发现，我在导入模型进行预测时，需要重新手动构建网络进行检测，这样显得十分不“智能”。之前在比赛中一直是使用这种方法，但是由于当初比较忙，并没有深究这个问题。现在，学习了一下，发现使用Tensorflow 可以用两种方法进行预测。 首先，我们来讲一下，如何将如何加载模型：在TensorFlow中，加载模型的方法：with tf.Se
转载
2023-12-19 22:42:44
399阅读
