一.什么是PyG?PyG全称是Pytorch Geometric，它是一个基于Pytorch构建的库，可以帮助用户快速构建和训练自己的图神经网络模型。PyG中实现了很多先进（state of the art）的GNN模块，例如GCN、GraphSage、GAT、SGC、GIN等等。此外，PyG中还包含了大量的benchmark图数据集、丰富的图数据操作方法、支持多GPU。二.PyG的安装关于PyG
转载
2024-04-18 12:51:01
39阅读
深度学习Pytorch（二）前言：关于Pycharm终端显示PS而不显示虚拟环境名解决办法：打开Pycharm的设置（File——>setting）,找到Tools，点击Terminal可以看到Shell path处给的路径是powershell.exe,所以终端才会一直显示PS将此处路径改为 C:\Windows\system32\cmd.exe,一般路径都是这个，改好之后点击OK即可关掉
转载
2024-06-20 18:38:59
359阅读
实际上，本文讨论如何在PyTorch中启用融合算子（Operator Fusion），这对于提高模型的运行效率和减少计算资源消耗至关重要。融合算子技术可以在深度学习模型中通过将多个运算合并成一个，来降低内存带宽的需求和提高计算速度。这在模型推理和训练过程中都能大幅度提升性能。
在实际应用中，用户会经历以下场景：在使用PyTorch进行深度学习模型推理时，用户发现其运行时间较长，特别是在处理大规模
1、Transformation转换算子RDD整体上分为Value类型、双Value类型和Key-Value类型1.1，Value类型 1.1.1，map()映射 object value01_map {
def main(args: Array[String]): Unit = {
//1.创建SparkConf并设置App名称
v
转载
2024-07-17 10:07:53
119阅读
思路：首先建立一个数据集用来拟合函数，要拟合函数我们就需要建立一个神经网络，建立好神经网络后，我们再通过训练网络来减小神经网络拟合函数的误差，最后再可视化拟合过程。建立数据集 我们创建一个一元二次函数：y=a*x^2 + b, 我们给y数据加上一点噪声来更加真实的展示它。import torch
import matplotlib.pyplot as plt #可视化函数库
x = torch.
转载
2023-11-07 00:10:37
125阅读
基本数据Tensor可以保证完成前向传播，想要完成神经网络的训练，接下来还需要进行反向传播与梯度更新，而PyTorch提供了自动求导机制，autograd，将前向传播的计算记录成计算图，自动完成求导 在PyTorch 0.4 版本之前，Tensor仅仅是对多维数组到的抽象，使用自动求导机制需要将Tensor封装成torch.autograd.Variable类型，才能构建计算图。PyTorch 0
转载
2024-02-23 10:03:23
199阅读
一个电脑小白的自我成长之路。1.常见的距离算法1.1欧几里得距离（Euclidean Distance）公式如下：标准欧氏距离的思路：现将各个维度的数据进行标准化：标准化后的值 = ( 标准化前的值 － 分量的均值 ) /分量的标准差，然后计算欧式距离欧式距离的标准化（Standardized Euclidean distance）公式：1.2马哈拉诺比斯距离（Mahalanobis Distan
转载
2023-12-06 16:00:45
105阅读
边缘检测学习目标了解Sobel算子，Scharr算子和拉普拉斯算子掌握canny边缘检测的原理及应用1 原理边缘检测是图像处理和计算机视觉中的基本问题，边缘检测的目的是标识数字图像中亮度变化明显的点。图像属性中的显著变化通常反映了属性的重要事件和变化。边缘的表现形式如下图所示：图像边缘检测大幅度地减少了数据量，并且剔除了可以认为不相关的信息，保留了图像重要的结构属性。有许多方法用于边缘
1.并行处理机制DataParallel系统通过将整个小型批处理加载到主线程上，然后将子小型批处理分散到整个GPU网络中来工作。具体是将输入一个 batch 的数据均分成多份，分别送到对应的 GPU 进行计算。与 Module 相关的所有数据也都会以浅复制的方式复制多份。每个 GPU 在单独的线程上将针对各自的输入数据独立并行地进行 forward 计算。然后在主GPU上收集网络输出，并通过将网络
转载
2023-08-07 23:59:07
293阅读
TensorFlow算子融合 TensorFlow的特点： 真正的可移植性 引入各种计算设备的支持，包括CPU，GPU，以及能够很好的运行在各种系统的移动端 多语言支持 支持C++，python，R语言等 高度的灵活性和效率 边学习边体验 支持 由谷歌提供支持，谷歌希望其可以成为机器学习研究和开发人
转载
2021-07-10 06:20:00
799阅读
2评论
这是一篇pytorch与cuda结合的~~ 用PyTorch编译并调用自定义CUDA算子的三种方式：JIT、Setuptools、CMake。代码地址 https://github.com/godweiyang/torch-cuda-example运行环境NVIDIA Driver: 418.116.00CUDA: 11.0Python: 3.7.3PyTorch: 1.7.0+cu11
转载
2024-02-05 14:56:02
100阅读
本文为Pyspark代码Spark版本：Spark-3.2.11. RDD的定义Spark提供了一种对数据的核心抽象，称为弹性分布式数据集(Resilient Distributed Dataset, RDD)。这个数据集的全部或部分可以缓存在内存中，并且可以在多次计算时重用。RDD其实就是一个分布在多个节点上的数据集合(一个数据集存储在不同的节点上，每个节点存储数据集的一部分)。RDD的主要特征
转载
2023-08-11 18:02:10
96阅读
风格迁移 Style Transfer1、数据集2、原理简介3、用Pytorch实现风格迁移4、结果展示5、全部代码小结 1、数据集使用COCO数据集，官方网站点此，下载点此，共13.5GB，82783张图片2、原理简介风格迁移分为两类，一类为风格图片（毕加索、梵高…），一类是内容图片，通常来自现实世界中本文主要介绍Fast Neural Style，关于Neural Style可见pytorc
转载
2023-12-14 10:50:05
100阅读
Spark常用算子分析与应用1、算子概述什么是算子
英文翻译为：Operator（简称op）狭义：指从一个函数空间到另一个函数空间（或它自身）的映射。广义：指从一个空间到另一个空间的映射通俗理解：指事物(数据或函数)从一个状态到另外一个状态的过程抽象。实质就是映射，就是关系，就是变换。算子的重要作用
算子越少，灵活性越低，则实现相同功能的编程复杂度越高，算子越多则反之。
老手
转载
2023-12-25 13:01:08
92阅读
参照官方教程，实现pytorch自定义算子。主要分为以下几步：改写算子为torch C++版本注册算子编译算子生成库文件调用自定义算子一、改写算子这里参照官网例子，结合openCV实现仿射变换，C++代码如下：点击展开warpPerspective.cpp#include "torch/script.h"
#include "opencv2/opencv.hpp"
torch::Tensor w
转载
2023-05-26 16:40:55
642阅读
在做毕设的时候需要实现一个PyTorch原生代码中没有的并行算子，所以用到了这部分的知识，再不总结就要忘光了= =，本文内容主要是PyTorch的官方教程的各种传送门，这些官方教程写的都很好，以后就可以不用再浪费时间在百度上了。由于图神经网络计算框架PyG的代码实现也是采用了扩展的方法，因此也可以当成下面总结PyG源码文章的前导知识吧 。第一种情况：使用PyThon扩展PyTorch
转载
2023-10-25 22:33:52
237阅读
本篇文章中，我们将一起学习OpenCV中边缘检测的各种算子和滤波器——Canny算子,Sobel算子,Laplace算子以及Scharr滤波器。文章中包含了五个浅墨为大家准备的详细注释的博文配套源代码。在介绍四块知识点的时候分别一个，以及最后的综合示例中的一个。文章末尾提供配套源代码的下载。 给大家分享一个OpenCv中写代码是节约时间的小常识。其实OpenCv
转载
2023-07-29 18:30:13
180阅读
最近因为工作需要，学习了一波CUDA。这里简单记录一下PyTorch自定义CUDA算子的方法，写了一个非常简单的example，再介绍一下正确的PyTorch中CUDA运行时间分析方法。所有的代码都放在了github上，地址是：https://github.com/godweiyang/torch-cuda-example完整流程下面我们就来详细了解一下PyTorch是如何调用自定义的CUDA算子
转载
2023-11-15 19:32:26
522阅读
Tensorrt自定义算子实现步骤目的这篇文章主要是用于记录tensorrt自定义算子的过程.这里采用的是torch2trt直接转换的方式.实验思路:造一个pytorch中支持的操作,但是tensorrt中不支持的,也是说用torch2trt不能直接转换过去的算子,然后通过自定义一个插件实现跟torch中一样的功能,然后再用torch2trt接口就能转换成功了.下面是具体步骤在模型中造一个自定义的
转载
2023-11-07 00:10:25
365阅读
2021年11月17日11:32:14 今天我们来完成Pytorch自适应可学习权重系数，在进行特征融合时，给不同特征图分配可学习的权重！实现自适应特征处理模块如下图所示： 特征融合公式如下： 其中，为归一化权重，，为初始化权重系数。 结构分析：对于一个输入的特征图，有四个分支从上往下，第一个分支用的是Maxpooling进行最大池化提取局部特征第二个分支用的是Avgpooling进行平均池化提取
转载
2024-01-24 15:31:19
247阅读
