文章目录为什么要使用分布式训练基本概念常用函数使用DataParrel使用DDP搭建模型构建主函数训练函数训练器启动结果参考文章 为什么要使用分布式训练单卡显存不够了！！！（核心原因）比较高级，比较快。基本概念world_size：进程总数rank：每个进程的唯一编号nodes：节点数/主机数nprocs：当前节点的进程数/gpu数量gpu：当前GPU的序号常用函数以下都是忽略了导包的过程，直接
转载
2023-12-26 12:32:25
156阅读
在安装Pytorch-GPU，需要先安装CUDA和Cudnn，详细安装教程可参考以下blog：win10系统安装Tensorflow2.1—gpu版本完整流程（含图片）方法一：（不建议使用）：首先我们来到Pytorch的官网，选择CUDA的安装平台以及版本、Conda或者Pip安装,在下方粘贴复制安装命令即可，但是这里下载速度极慢，很容易出现CondaHTTPError，因为默认的镜像是官方的，由
转载
2024-05-14 15:40:35
56阅读
Win10下Pytorch的cuda环境配置jupyter notebook出现如下问题：显卡型号为NVIDIA GeForce RTX 3050 Ti使用torch.cuda.is_available()判断显示True,但是无法将tensor数据加载到GPU上。根据错误提示，显示**CUDA*型号不兼容。查看显卡CUDA版本 打开Anaconda Prompt，输入命令nvidia-smi（命
转载
2023-08-11 15:36:04
601阅读
默认前置条件已安装驱动、CUDA、cudnn、pytorch。这里以ubuntu20.04，驱动470，CUDA11.1.1，cudnn8.1.1，pytorch1.12，tensorrt7.2.3.4为例。简介tensorrt主要用于优化模型推理速度，是硬件相关的。主要有两种将torch转化为tensorrt的方式：1. github路线：首先保存模型的.pth权重文件，然后将其转化为.wts文
转载
2024-01-27 13:26:40
183阅读
2.1 使用Pytorch构建一个神经网络学习目标掌握用Pytorch构建神经网络的基本流程.掌握用Pytorch构建神经网络的实现过程.关于torch.nn:
使用Pytorch来构建神经网络, 主要的工具都在torch.nn包中.nn依赖于autograd来定义模型, 并对其自动求导.构建神经网络的典型流程:定义一个拥有可学习参数的神经网络遍历训练数据集处理输入数据使其流经神经网络计算损
转载
2023-11-09 00:33:24
76阅读
0. 目录 文章目录0. 目录更新 2020.05更新2020.061. 对 resnest 网络进行加速2. 主要内容2.1 准备阶段2.2 主要代码 更新 2020.05onnx将模型转为trt或者其他inference是一种比较通用的方式，博主测试过程中发现，onnx转换出来的模型会稍慢与纯trt api 写出来的模型，nvidia官方也有说到过onnx存在效率非最优以及微小数值差异的问题。
转载
2023-12-30 15:02:15
77阅读
基于pytorch复现ResNet前言 最近在看经典的卷积网络架构，打算自己尝试复现一下，在此系列文章中，会参考很多文章，有些已经忘记了出处，所以就不贴链接了，希望大家理解。 后期会补上使用数据训练的代码。 完整的代码在最后。 python基础知识、CNN原理知识、pytorch基础知识本系列的目的 一是帮助自己巩固知识点； 二是自己实现一次，可以发现很多之前的不足； 三是希望可以给大家一个参考。
转载
2023-09-25 12:42:48
131阅读
model.pyimport torch.nn as nn
import torch
#首先定义34层残差结构
class BasicBlock(nn.Module):
expansion = 1 #对应主分支中卷积核的个数有没有发生变化
#定义初始化函数（输入特征矩阵的深度，输出特征矩阵的深度（主分支上卷积核的个数），不惧默认设置为1，下采样参数设置为None）
de
转载
2023-10-19 11:08:01
122阅读
归一化操作：模型：import torch
from torch import nn
from torch.nn import functional as F #调用F.函数
class ResBlk(nn.Module): # 定义Resnet Block模块
"""
resnet block
"""
def __init__(self,
转载
2023-08-30 13:52:19
191阅读
PyTorch是一个灵活且流行的深度学习框架，广泛应用于研究和工业界。在日常使用PyTorch的过程中，有一系列常用的包和工具可以极大地提高我们的开发效率。本文将详细介绍如何搭建PyTorch的开发环境，使用一系列常用的包，并提供详细的分步指南。
## 环境准备
在准备使用PyTorch之前，我们需要明确软件和硬件环境的要求。这一部分将通过四象限图来展示不同硬件资源的评估。
```merma
# 深入理解PyTorch包：深度学习的利器
在现代深度学习领域，PyTorch已经成为了众多研究者和工程师的重要工具。它以其简洁的语法、动态计算图和强大的社区支持而被广泛应用于学术研究和工业界。在本文中，我们将通过简单的代码示例来深入了解PyTorch，并展示如何使用它进行基本的深度学习任务。
## 什么是PyTorch？
PyTorch是一个开源的深度学习框架，由Facebook的人工智
原创
2024-08-21 08:15:35
24阅读
深度学习框架训练模型时的代码主要包含数据读取、网络构建和其它设置三个方面 。1、 数据读取具体步骤主要包含： 1. 定义torch.utils.data.Dataset数据接口 2. 使用torch.utils.data.DataLoader将数据接口封装成数据迭代器。数据读取部分包含如何将你的数据转换成PyTorch框架的Tensor数据类型。当使用PyTorch
转载
2023-10-20 10:47:30
156阅读
1.pytorch提供torchvision包及哪些数据集2.介绍常用数据集3.下载方式介绍一、pytorch提供torchvision包及哪些数据集1.torchvision包构成计算机视觉是深度学习中最重要的一类应用，为了方便研究者使用，PyTorch 团队专门开发了一个视觉工具包torchvision，这个包独立于 PyTorch，需通过 pip instal torchvision 安装。
转载
2024-01-12 12:17:07
83阅读
目录系列文章一、非常简短的介绍二、极其方便的上手1.项目结构2.执行demo3.修改前置物体检测算法和特征提取模型 4.修改deep_sort相关配置三、明了清晰的代码1.物体检测2.提取特征3.卡尔曼滤波predict4.执行Matching5.卡尔曼滤波update系列文章【目标跟踪】卡尔曼滤波器(Kalman Filter) 含源码【目标跟踪】一图看懂DeepSORT大流程【目标跟
导师配了一个台式机，便着手配置PyTorch环境。根据台式机的显卡驱动(472.12)、CUDA、cuDNN版本安装好PyTorch之后，调用torch.cuda.is_available()函数，可以发现PyTorch-GPU版本已经安装成功。import torch
print(torch.__version__)
print(torch.cuda.is_available())
# 1.
转载
2024-02-07 17:50:07
1228阅读
yolo_v5s训练预部署(pytorch版本)1.下载代码和预训练模型git clone https://github.com/ultralytics/yolov5.git网址： https://github.com/ultralytics/yolov5 预训练模型用于加快收敛2.搭建yolov5的训练环境pip install -r requirements.txt # install或者在
转载
2023-10-24 00:39:43
120阅读
MAML-RL Pytorch 代码解读 (15) – maml_rl/episode.py 文章目录MAML-RL Pytorch 代码解读 (15) -- maml_rl/episode.py基本介绍源码链接文件路径`import` 包`BatchEpisodes()` 类 基本介绍在网上看到的元学习 MAML 的代码大多是跟图像相关的，强化学习这边的代码比较少。因为自己的思路跟 MAML-R
转载
2024-04-13 23:33:44
12阅读
作者：zach5078前言这两天被临时抽调到别的项目组去做一个小项目的迭代。这个项目前端是用React，只是个小型项目所以并没有使用Redux等状态管理的库。刚好遇到了一个小问题：两个不太相关的组件到底该怎么进行通信。我觉得这个问题还挺有趣的，所以把我的思考过程写下来，大家也可以一起讨论讨论。虽然重点是要讲两个不相关的组件间的通信，但我还是从最常见的父子组件通信讲起，大家就当温故而知新了
神经网络中常用的激活函数Introduce理论上神经网络能够拟合任意线性函数，其中主要的一个因素是使用了非线性激活函数（因为如果每一层都是线性变换，那有啥用啊，始终能够拟合的都是线性函数啊）。本文主要介绍神经网络中各种常用的激活函数。以下均为个人学习笔记，若有错误望指出。各种常用的激活函数早期研究神经网络常常用sigmoid函数以及tanh函数（下面即将介绍的前两种），近几年常用ReLU函数以及L
卷积操作作为卷积神经网络的核心模块，在其计算过程中必须考虑图像“边缘像素”的卷积方式。查阅资料发现，我们可以采用“卷积之前进行边界填充”或“卷积之后进行边界填充两种方式”，同时边界填充的具体手段包含常量填充、零填充、镜像填充以及重复填充等。 &n
转载
2023-10-11 11:25:50
92阅读
