文章目录前言深度学习基础监督学习损失函数随机梯度下降反向传播图神经网络简介图表示学习的发展历史图神经网络图滤波操作通用的GNN框架（节点任务）图池化操作通用的GNN框架（图任务）谱图论拉普拉斯矩阵作为算子拉普拉斯矩阵的特征分解特征向量作为图上的信号图傅立叶变换（GFT）图滤波两大类图滤波操作最早的图滤波操作图谱滤波将图谱滤波运用到GNN上GCN-Filter: 简化的Cheb-Filter处理多
转载
2023-08-16 18:22:30
135阅读
前言之前就一直想不调用框架，实现一个CNN和RNN，实现这两种网络的主要难度就在于反向传播，对与CNN来说反向传播也要涉及到卷积，对于RNN来说反向传播会涉及到沿时间序列进行传播，也就是BPTT。在此过程中遇到不少困难，踩了不少坑，所以写此博文总结一下。实现卷积神经网络我们这里要实现的卷积神经网络是Lenet-5模型，其模型结构图如下 其网络结构用语言描述的话，就是:输入层->卷积层->
转载
2023-08-11 21:24:17
150阅读
近年来，深度学习领域关于图神经网络（Graph Neural Networks，GNN）的研究热情日益高涨，图神经网络已经成为各大深度学习顶会的研究热点。GNN处理非结构化数据时的出色能力使其在网络数据分析、推荐系统、物理建模、自然语言处理和图上的组合优化问题方面都取得了新的突破。图神经网络有很多比较好的综述可以参考，更多的论文可以参考清华大学整理的GNN paper list。本篇文章将从一个更
转载
2023-08-21 09:45:23
367阅读
基于图神经网络的图表征学习方法图表征学习要求在输入节点属性、边和边的属性（如果有的话）得到一个向量作为图的表征，基于图表征进一步的我们可以做图的预测。本文以一个经典的同构网络GIN来举例。网络实现基于图同构网络的图表征学习主要包含以下两个过程：首先计算得到节点表征；其次对图上各个节点的表征做图池化（Graph Pooling），或称为图读出（Graph Readout），得到图的表征（Graph
转载
2023-08-10 21:22:14
156阅读
我们不仅仅关系整个图的架构，其实我们更关心的是每个顶点每条边和整个图所表示的信息。 我们如何把我们想要的信息表示成以上这些向量，以及这些向量是否能够通过数据来学到。这也是整个图神经网络要关注的重点。一、数据如何表示成图如何把一张图片表示成图，假如我们有一张图，其高宽都是244.然后有三个通道（RGB），一般来说我们会把他表示为有三个维度的Tensor。我们在输入我们的神经网络的时候用的是
转载
2023-07-19 20:42:38
360阅读
➤第十题参考答案-第1小题1.题目分析（1）数据集分析数据集合包括有两个目录：test, train。其中分别包括有95,510张车牌号的图片。图片命名的最后一个字符表明了车牌号的颜色。（2）数据转换使用本文后面作业程序附件中的：1.将车牌图片目录转换成YUV将test、train两个车牌号的图片转换成YUV参数。形成两个数据NPZ文件：test_data_npz, train_data_npz。
转载
2023-08-28 19:33:48
117阅读
目录1 前言1.1 RNN回忆与概览1.2 LSTM回忆与概览1.3 循环神经网络的几种输入输出结构2 图解 LSTM 内部结构和数据流2.1 简洁的结构图2.2 LSTM的原理剖析图3 图解BiLSTM及其应用3.1 看2层的 LSTM 是如何运转的3.2 看1层的 BiLSTM 是如何运转的3.3 看2层的 BiLSTM 是如何运转的1 前言本文对RNN、LSTM、BiLSTM的内部结构和输入
转载
2024-02-26 22:14:14
6194阅读
深度学习Pytorch（三）——神经网络 文章目录深度学习Pytorch（三）——神经网络一、简介二、神经网络训练过程三、实例演示1、定义一个神经网络2、通过调用net.parameters()返回模型可训练的参数3、迭代整个输入4、调用反向传播5、计算损失值6、反向传播梯度7、更新神经网络参数 一、简介神经网络可以通过torch.nn包构建，上一节已经对自动梯度有些了解，神经网络是基于自动梯度来
转载
2023-09-06 16:38:21
95阅读
NEURAL NETWORKS 神经网络神经网络是由torch.nn包构造的.nn使用autograd定义模型和对模型做微分. 一个nn.module对象包含layers, 一个返回输出的forward(input)方法.例如, 看一个分类数字图片的网络:这是简单的前馈(feed-forward)网络. 它获取输入, 将它送给几个layer一层接一层的处理, 最后给出输出. 一个典型的神经网络训练
转载
2023-08-04 23:32:47
49阅读
目录1.搭建神经网络6步法2.函数用法和介绍（1）tf.keras.models.Sequential()（2）Model.compile(）（3）model.fit(）（4）model.summary()（5）model.predict()3.鸢尾花数据集4. Fasion_Mnist数据集 1.搭建神经网络6步法tf.keras搭建神经网络六步法第一步：import相关模块，如imp
转载
2023-08-08 09:32:16
172阅读
101（入门）以后就是开始具体逐项学习图神经网络的各个细节。下面介绍： 1.如何构建图 2.将特征赋给节点或者边，及查询方法 这算是图神经网络最基础最基础的部分了。一、如何构建图DGL中创建的图的方法有： 1. 通过（u, v），u和v分别为起始节点和终止节点的列表，可以是numpy矩阵也可以是tensor 2. scipy中的稀疏矩阵，该稀疏矩阵储存这图的邻接矩阵 3. networkx图对象转
转载
2023-09-18 15:49:23
111阅读
Random Walk Graph Neural Networks论文简介摘要介绍相关工作预备知识随机游走GNNs应用细节实验评估合成数据集公开数据集结论 论文简介NeurIPS 2020接收的，论文下载地址.摘要近年来，图神经网络(GNNs)已成为在图上执行机器学习任务的实际工具。大多数GNN属于消息传递神经网络族(MPNNs)。这些模型采用迭代邻域聚合（neighborhood aggreg
转载
2023-08-27 20:24:49
106阅读
SVM是最优秀、准确而健壮的算法之一，维度不敏感，可处理线性可分和线性不可分数据。分为SVC和SVR。优势：分类性能好、稳定性高、算法更新快。一般选择RBF作为核函数。SVM分类决策中起决定作用的是支持向量。关键优化参数：C：惩罚系数，值越高，惩罚程度越大，误差容忍力越差。Gamma：影响每个支持向量对应的高斯的作用范围，值越大，泛化性能越差。限制：计算的复杂性取决于支持向量的数目，大规模训练样本
转载
2023-05-22 14:44:06
83阅读
1.二者在形式上有几分相似,但实际上有很大不同。简而言之，神经网络是个“黑匣子”，优化目标是基于经验风险最小化，易陷入局部最优，训练结果不太稳定，一般需要大样本；而支持向量机有严格的理论和数学基础，基于结构风险最小化原则, 泛化能力优于前者，算法具有全局最优性, 是针对小样本统计的理论。目前来看，虽然二者均为机器学习领域非常流行的方法，但后者在很多方面的应用一般都优于前者。神经网络是基于传统统计学
转载
2023-10-30 23:31:46
69阅读
目录介绍图的定义数据的图的表示1、图片的图表示（11：50）2、文本的图表示3、分子的图表示 4、社交网络的图表示数据统计 三大类问题 1、图层面的任务 2、顶点层面的任务3、边级层面的任务 将图用在机器学习上的挑战1、挑战2、解决办法3、输入神经网络的方法零基础多图详解图神经网络（GNN/GCN）【论文精读】_哔哩哔哩_bilibilihttps
转载
2024-02-07 10:14:08
359阅读
系列文章目录图神经一、图是什么？二、机器学习中使用图1、邻接矩阵的表达2、GNN1.独自更新2.VE交互更新3.UVE交互更新3、GCN总结 图神经什么是图： 图是一种对节点和节点间关系建模的数据结构，是机器学习中唯一的非欧几里得数据，图分析可用于节点分类、链接预测和聚类。GNN的来源： CNN：CNN可以提取大量本地紧密特征并组合为高阶特征，但CNN只能够操作欧几里得数据。CNN的关键在于局部连
转载
2023-10-08 13:02:29
300阅读
作者：李健民该数据集来自医咖会之前的一篇SPSS教程(现在的任务是把344例的数据集拆分为训练集和测试集，建立一个简单的神经网络模型，看看模型的训练效果怎么样。表1. 肺癌危险因素分析研究的变量与赋值表2. 部分原始数据想要原始数据的小伙伴，可到医咖会网站一．SPSS建模步骤如下1.选择分析—神经网络—多层感知器2.变量窗口：要预测的结局变量放在因变量窗口，其他的预测变量根据自身类型放在因子或协变
转载
2023-08-28 09:10:48
1193阅读
1、bp神经网络的介绍可以参考：http://wenku.baidu.com/view/174849da49649b6648d747dd.html?from=search/ 2、然后就是bp神经网络的编程部分。 BP神经网络预测前首先要训练网络通过训练使网络具有联想记忆和预测能力。BP神经网络的训练过程包括以下几个步骤： 具体的编程部分： %% 该代码为基于BP网络的语言识别%% 清空环境变量 c
转载
2023-07-19 14:51:31
65阅读
深度学习框架的一般流程：1.数据加载和处理2.定义一个模型（包括网络、损失函数和优化器）3.在训练集上进行训练4.在测试集上测试模型的性能（步骤1、2可以调换）步骤一：使用Torchvision加载和规范化CIFAR10训练集和测试集torchvision模块可以加载数据，也可以处理数据等等import torch
import torchvision
import torchvision.tra
转载
2023-07-11 14:37:33
111阅读
一、卷积的基本操作过程
卷积也称为滤波，是一种线性的信号处理技术。
二、卷积神经网络的卷积层结构 单层动态演示： 详见：
https://cs231n.github.io/assets/conv-demo/index.ht
转载
2023-10-12 13:16:35
66阅读
