BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。一个神经网络的结构示意图如下所示。BP神经网络模型拓扑结构包括输入层（input）、隐层(hide
转载
2024-01-16 17:22:18
229阅读
参考书籍：《Python神经网络编程》神经网络基本编程采用Sigmod激活函数，建立一个包含一层隐藏层的神经网络通用代码：import numpy
# scipy.special for the sigmoid function expit()
import scipy.special
class neuralNetwork:
# initialise the neural net
转载
2023-08-21 10:14:58
150阅读
提出问题：手写数字的识别（这是学习神经网络的一个最最方便收集数据的分类问题了）制作训练所需的数据集：先来看看别人制作好的数据集，这是一个样本总量为100的数据集，图中文件用csv保存，然后最左边框住的是代表的真实数字，然后其所在的行的其他数字就是照片的像素值（结合第二张图看）地址：GitHub - makeyourownneuralnetwork/makeyourownneuralnetwork:
转载
2023-09-16 00:06:52
170阅读
# 图神经网络的伪代码实现
## 1. 流程概述
对于图神经网络的伪代码实现，我们可以按照以下步骤进行：
| 步骤 | 描述 |
| --- | --- |
| 步骤一 | 数据准备 |
| 步骤二 | 图的构建 |
| 步骤三 | 模型构建 |
| 步骤四 | 模型训练 |
| 步骤五 | 模型预测 |
现在，让我们一步步来详细地介绍每个步骤需要做什么，以及需要使用的代码和代码的注释。
原创
2023-08-16 06:32:21
385阅读
# 神经网络训练的基本原理和流程
神经网络是一种模拟人脑神经系统处理信息的数学模型，它由大量的人工神经元（节点）相互连接而成。神经网络的训练是指通过调整网络的参数，使其能够根据输入数据预测或分类。本文将介绍神经网络训练的基本原理和流程，并用伪代码和代码示例进行说明。
## 神经网络的基本结构
神经网络由输入层、隐藏层和输出层构成，其中输入层接收输入数据，输出层产生输出结果，隐藏层则负责特征提
原创
2023-09-17 11:00:09
555阅读
在详解卷积神经网络LeNet-5一文中，我详细介绍了一下Lenet-5的基本原理，下面简要介绍一下Lenet-5的pytorch代码实现。建议本文对应上文一起查看。 主要内容一、Lenet-5网络模型实现Step1： 引入必要的包Step2：搭建卷积层C1和池化层S2Step3：搭建卷积层C3和池化层S4Step4：搭建全连接层C5、全连接层F6以及输出层Step5：设置网络前向传播Step6：查
转载
2023-08-11 12:47:27
720阅读
1、siamese 其实讲了这么多，主要思想就是三点： 1）输入不再是单个样本，而是一对样本，不再给单个的样本确切的标签，而且给定一对样本是否来自同一个类的标签，是就是0，不是就是1 2）设计了两个一模一样的网络，网络共享权值W，对输出进行了距离度量，可以说l1、l2等。 3）针对输入的样本对是否来自同一个类别设计了损失函数，损失函数形式有点类似交叉熵损失：2、孪生神经网络和伪孪生神经网络分别适用
转载
2023-11-13 14:05:40
198阅读
近年来，深度学习领域关于图神经网络（Graph Neural Networks，GNN）的研究热情日益高涨，图神经网络已经成为各大深度学习顶会的研究热点。GNN处理非结构化数据时的出色能力使其在网络数据分析、推荐系统、物理建模、自然语言处理和图上的组合优化问题方面都取得了新的突破。图神经网络有很多比较好的综述[1][2][3]可以参考，更多的论文可以参考清华大学整理的GNN paper list[
转载
2023-07-07 22:05:28
551阅读
一、ELM算法及其数学模型（也称极限学习机） 目的：高效的特征提取+高准确率分类器设计；监督型学习算法（一）背景：神经网络一直是模式识别、系统辨识的重要工具。传统的前馈神经网络有：BP、RBF等。 （1） 一种基于单层前向馈神经网络（SLFN）简单易用、有效的
转载
2024-01-02 08:53:45
48阅读
训练集（Training set）作用是用来拟合模型，通过设置分类器的参数，训练分类模型。后续结合验证集作用时，会选出同一参数的不同取值，拟合出多个分类器。验证集(Cross Validation set)作用是当通过训练集训练出多个模型后，为了能找出效果最佳的模型，使用各个模型对验证集数据进行预测，并记录模型准确率。选出效果最佳的模型所对应的参数，即用来调整模型参数。如svm中的参数c和核函数等
转载
2023-09-10 21:33:20
101阅读
目录第三章 线性模型 算法3.1 两类感知器的参数学习算法 算法3.2 一种改进的平均感知器参数学习算法算法3.3 广义感知器参数学习算法第四章 前反馈神经网络 算法4.1 使用反向传播
转载
2023-10-05 08:26:32
15阅读
卷积网络代码network3.py整体看来，程序结构类似于 network2.py，尽管细节有差异，因为我们使用了 Theano。FullyConnectedLayer 类首先我们来看 FullyConnectedLayer 类，这类似于我们之前讨论的那些神经网络层。下面是代码：class FullyConnectedLayer(object):
def __init__(self, n_in,
转载
2023-10-05 23:44:12
474阅读
内容简介： 2一、介绍（GCN基于CNN和图嵌入） 21.研究GNN的动机： 22.研究GNN的原因： 23.早期的GNN研究： 3二、模型 42.1原始GNN 42.2 GNN的变体 52.2.1图类型 62.2.2传播类型（传播过程使用的方法） 62.2.3训练方法 82.3通用框架（将不同的模型集成到一个单一的框架中） 102.3.1消息传递神经网络（MPNN：message passing
转载
2024-04-07 22:24:15
150阅读
近年来，深度卷积神经网络在计算机视觉领域取得了革命性的进展，并被广泛地应用到图像分类、物体检测、实例分割等经典的计算机视觉问题当中。深度卷积神经网络通过层次化地响应图像局部单元使其能够充分利用输入数据的二维结构，从而针对图像提取鲁棒与鉴别性的特征表示。卷积网络本质上是一种卷积核在空间维度参数共享的前馈神经网络，它的成功主要归功于良好的模块架构设计以及合理地解决优化 过程中的问题。本文从上述两个角度
转载
2023-10-12 13:24:58
87阅读
一、实操 下面进行的模型训练为伪代码，一般用tensorflow不会用到这种方式来训练模型，这个只是用来作为对上一篇常用函数的使用，方便熟悉代码以及训练时梯度是如何计算的。import tensorflow as tf
from sklearn.datasets import load_iris
# 读取鸢尾花数据
iris_data = load_iris()
x = tf.constant
转载
2023-06-07 22:03:53
88阅读
超大图上的节点表征学习我们使用内存数据集将图神经网络应用于许多节点或边的预测任务，然而在实际的工作中面临着超大图上进行图神经网络的训练，巨大的内存(显存)消耗问题。论文Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Network提出了一种新的图神经网络的训练方法。Cluster
转载
2024-03-11 07:55:23
65阅读
本文为芬兰阿尔托大学（作者：OlaviStenroos）的硕士论文，共75页。目标检测是当前基于机器学习的计算机视觉的一个子领域。在过去的数十年中，机器学习领域被所谓的深度神经网络所主导，其基础是基于计算能力和数据可用性的提高。卷积神经网络（CNN）是神经网络的一个子类，非常适合于处理与图像相关的任务。神经网络通过训练在图像中寻找不同的特征，例如边缘、角和颜色差异，并将它们组合成更复杂的形状。对
转载
2023-12-16 16:39:50
63阅读
CNN（Convolutional Neural Network） （1）CNN的概念 CNN，常被称作卷积神经网络，经常被用于图像处理。 CNN最关键的两个步骤是：卷积与池化。以下是它的过程图： CNN之所以能够进行卷积，有两点理由：1.图像的模式会远远的小于整张图片；2.图像中相同的模式会出现在不同的位置。 CNN之所以能够进行池化，主要是因为图像中有很多冗余点，即使我们对它进行s
转载
2023-10-20 18:59:06
397阅读
常见问题1.如何降低过拟合？ 过拟合：对数据拟合过度，模型对于所提供的数据进行一致性假设而使模型变得过度复杂称为过拟合。 危害：在训练集上的效果非常好，但是在测试集上的效果很差，即泛化能力很弱。 方法： （1）获取和使用更多的数据集。让模型在更多的数据上进行观察和拟合，不断修正自己。 （2）采用合适的模型。 （3）使用dropout（随机失活）。在模型的训练过程中按一定的几率关闭或忽略某些层的节点
转载
2024-04-15 13:31:57
27阅读
神经网络一、人工神经网络人工神经网络(Artificial Neural Network,ANN),基本思想是模拟人脑的神经网络进行机器学习人工神经 is 深度学习的基础简称为神经网络或神经计算1. 神经网络结构是一种仿生的方法，科研适应复杂模型的启发式学习技术2. 一个神经元的结构神经元的结构包括植入值（x1,x2,…,xn）,权重（w1,w2,…,wn）以及偏移量b。输出值为$y = f(\s
转载
2023-08-11 19:50:17
288阅读
