一、编译环境1、目标系统：ubuntu 22.04 LTS
2、投屏器SDK下载：
链接：https://pan.baidu.com/s/1OJQafxm38FnbshMEu432Og
提取码：o6p3
下载下来后，输入命令cat rv1126.zip.001 rv1126.zip.002 rv1126.zip.003 rv1126.zip.004 rv1126.zip.005 > rv11
转载
2024-06-04 04:54:15
215阅读
# PyTorch NPU版实现流程
## 1. 简介
PyTorch NPU版是一个用于利用华为昇腾AI处理器（NPU）的深度学习框架。本文将介绍如何实现PyTorch NPU版，以及每个步骤具体需要做什么。
## 2. 实现流程
下面是实现PyTorch NPU版的具体步骤：
```mermaid
flowchart TD
A[安装华为NPU运行环境] --> B[安装PyTor
原创
2023-11-20 09:13:21
1957阅读
## NPU 跑pytorch
在深度学习领域，PyTorch 是一个非常流行的深度学习框架，它提供了灵活的张量计算和动态计算图的功能。而 NPU（神经处理单元）是一种专为加速深度学习任务而设计的处理器。本文将介绍如何在 NPU 上运行 PyTorch，以实现更快的模型训练和推理。
### PyTorch on NPU
PyTorch 提供了一个名为 `torch.distributed`
原创
2024-04-02 05:13:08
1837阅读
# 《PyTorch官方教程中文版》， PyTorch之小试牛刀
# PyTorch的核心之一：张量，类似于numpy，但可以在GPU上运行
# 在介绍PyTorch之前，本章节将首先使用numpy实现网络
# 代码解读参考：
import numpy as np
import torch
# N是批大小; D_in是输入维度; H是隐藏的维度; D_out是输出维度。
N, D_in,
转载
2023-11-25 13:26:33
112阅读
在机器学习和深度学习模型部署中，将PyTorch模型部署到NPU（神经网络处理单元）上是一个重要且复杂的过程。为了帮助大家更好地完成这一任务，本文将详细记录从环境准备到优化技巧的整个流程，包括关键的配置、验证测试、扩展应用等方面的内容。
## 环境准备
在进行PyTorch模型部署到NPU之前，您需要确保安装了相关的前置依赖。下面的表格总结了各个依赖项及其版本兼容性矩阵。
| 依赖项
1. 框架概述 MMDetection是商汤和港中文大学针对目标检测任务推出的一个开源项目，它基于Pytorch实现了大量的目标检测算法，把数据集构建、模型搭建、训练策略等过程都封装成了一个个模块，通过模块调用的方式，我们能够以很少的代码量实现一个新算法，大大提高了代码复用率。 整个MMLab家族除了MMDetection，还包含针对目标跟踪任务的MMTracking，针对3D目标检测任务的M
前言很多人都会拿PyTorch和Google的Tensorflow进行比较，这个肯定是没有问题的，因为他们是最火的两个深度学习框架了。但是说到PyTorch，其实应该先说Torch。什么是Torch？ Torch是一个与Numpy类似的张量（Tensor）操作库，与Numpy不同的是Torch对GPU支持的很好。Lua是Torch的上层包装，虽然Lua速度很快，Lua实在是太小众了，所以才会有Py
转载
2023-10-27 05:24:42
114阅读
通过示例学习PyTorch基本概念
1.概述¶
PyTorch 的核心是提供两个主要功能：n 维张量，类似于 NumPy，但可以在 GPU 上运行用于构建和训练神经网络的自动微分 我们将使用将三阶多项式拟合y = sin(x)的问题作为运行示例。 该网络将具有四个参数，并且将通过使网络输出与实际输出之间的欧几里德距离最小
转载
2024-04-15 17:37:22
78阅读
深度学习是Google，亚马逊，微软和Facebook以及众多小型公司业务的重要组成部分。 它负责自动语言翻译，图像分类和对话界面等领域的许多最新进展。 我们还没有到达一个单一的主导深度学习框架的地步。 TensorFlow （Google）很好，但是一直很难学习和使用。 而且TensorFlow的数据流图很难调试，这就是为什么TensorFlow项目一直致力于急切执行和TensorFlow调
转载
2024-10-28 22:18:52
113阅读
之前使用conda安装gpu版的torch，但是实际跑代码时发现装的还是cpu版本的，具体情况和原因参考 但是根据这篇文章发现实际操作时还是有出入 所以以下是我根据上文一些没提到或无法解决的问题所给出的解决方案1.CUDA版本我使用的是Anaconda的虚拟环境，但是在查询CUDA版本时出现了这么些问题（1）cudatoolkit版本用Anaconda Prompt运行如下代码conda acti
TensorRT前言 TensorRT是nvidia官方开源的加速推理框架，适用于流行的深度学习框架：pytorch、tensorflow、Caffe等。TensorRT（下面简称trt）需要与nvidia提供的显卡一起使用，没有nvidia的cuda无法使用。提高部署推理的方法有2种，一种是训练过程中需要进行优化加速的，比如模型压缩、模型剪枝、量化、知识蒸馏，另外一种是训练完成后通过优化计算图结
转载
2024-04-23 10:44:16
303阅读
PyTorch 简介PyTorch是一个基于Python的科学计算包，它主要有两个用途：类似Numpy但是能利用GPU加速一个非常灵活和快速的用于深度学习的研究平台PyTorch 安装需要配置好CUDA，然后安装对应版本的torch，可以选择下载好包后本地pip install。TensorTensor类似于numpy的ndarry，但是可以用GPU加速来计算。使用前需要导入torch的包：fro
转载
2023-10-31 13:39:11
87阅读
PyTorch是业界流行的深度学习框架，用于开发深度学习训练脚本，默认运行在CPU/GPU上。为了使这些脚本能够利用昇腾AI处理器的强大算力执行训练，需要对PyTorch的训练脚本进行迁移。首先，我们了解下模型迁移的全流程： 通过上图可以看出，模型迁移包括“脚本迁移 –> 模型训练 –> 精度调优 –> 性能调优 –> 模型
转载
2023-09-06 14:06:12
343阅读
简介uTools 是一个极简、插件化、跨平台的现代桌面软件。通过自由选配丰富的插件，打造你得心应手的工具集合。当你熟悉它后，能够为你节约大量时间，让你可以更加专注地改变世界。下载地址官网地址：https://u.tools/ utools 支持 Windows/Mac/Linux下载：https://u.tools/download.html使用技巧快捷键 Alt+Space安装成功之后，可以通过
NumpyNumPy系统是Python的一种开源的数值计算扩展。这种工具可用来存储和处理大型矩阵，比Python自身的嵌套列表（nested list structure)结构要高效的多（该结构也可以用来表示矩阵（matrix））。据说NumPy将Python相当于变成一种免费的更强大的MatLab系统。NumPy（Numeric Python）提供了许多高级的数值编程工具，如：矩阵数据类型、矢量
转载
2024-10-23 15:39:38
233阅读
跟着网易云课堂上的新课学习一下PyTorch。开发环境搭建Python版本：3.7。安装CUDA搜索cuda download到CUDA官网下载相应的本地安装版本，安装好后在C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\版本号\bin\目录下能看到nvcc.exe，这是CUDA的编译器。使用下面的命令测试CUDA安装成功：nvcc -V配置清
转载
2024-07-12 22:03:30
284阅读
检查使用的GPU的索引torch.cuda.is_available() cuda是否可用；torch.cuda.device_count() 返回gpu数量；torch.cuda.get_device_name(0) 返回gpu名字，设备索引默认从0开始；torch.cuda.current_device()&nb
转载
2024-02-21 14:02:44
812阅读
1 Pytorch的compile技术PyTorch 的 torch.compile 是一个强大的功能，用于优化 PyTorch 模型的性能。它通过将 PyTorch 的动态图转换为静态图，并利用 Just-In-Time（JIT）编译技术，显著提高模型的推理速度和训练效率。1.1 PyTorch torch.compile 的作用torch.compile 是 PyTorch 的一个实验性功能，
传统的前端代码手工部署流程如下：传统的手工部署需要经历：1.打包，本地运行npm run build打包生成dist文件夹。2.ssh连接服务器，切换路径到web对应目录下。3.上传代码到web目录，一般通过xshell或者xftp完成。传统的手工部署存在以下缺点：1.每次都需要打开xshell软件与服务器建立连接。
2.当负责多个项目且每个项目都具有测试环境和线上环境时，容易引起部署错误。
转载
2024-02-02 05:51:33
183阅读
自从物联网(IoT)出现以来，边缘智能颇具颠覆性的创新，以及边缘计算应用都逐渐变得非常普遍，例如人脸识别，语音识别，物体识别，或者汽车上用的车辆识别系统都有它的身影。当然，这对算力的要求逐渐提高，NPU的性能也更受到注重，也作为了CPU与GPU外的下一个性能指标。 本文介绍的是米尔于2021年底发布的新品——MYC-JX8MPQ核心板，作为AI领域的里程碑CPU模组，它基于N
