一、二分分类 二分分类是将训练输入集x进过分类转换成结果集y,y是{0，1}的集合的方法，下面是一个例子： 这里将图片转换成矩阵：这幅图假设是64*64个像素点组成，每个像素点的rgb构成3个矩阵，这三个矩阵的特征向量是一个n = Nx = 64*64*3 = 12288维度的向量Xn，这张图片的分类结果（猫作为标签）y作为标签，0代表不是猫，1代表是猫。这个{Xn,y}作为一个训练集的元素，假
转载
2023-11-02 20:45:13
53阅读
YOLO（You Only Look Once）是一种基于深度神经网络的对象识别和定位算法，其最大的特点是运行速度很快，可以用于实时系统。现在YOLO已经发展到v3版本，不过新版本也是在原有版本基础上不断改进演化的，所以本文先分析YOLO v1版本。输入一张图片，要求输出其中所包含的对象，以及每个对象的位置（包含该对象的矩形框）。
对象识别和定位，可以看成两个任务：
转载
2023-08-24 17:20:18
253阅读
【生成式模型】【自动编码器】 自动编码器是一种无监督(其特点是训练样本数据的标记信息未知，因此其目标往往是要通过对无标签训练样本的学习来揭示出数据的内在规律)的神经网络模型，其目标是通过训练网络忽略信号“噪声”，从而得到数据的低维度表示(编码)。 自动编码器的作用：作为特征提取器：中间表示z的维度通常小于输入x的维度，这就使得自动编码器能学习到数据中最重要的特征，学习得到的特征可以在后续的有监督学
转载
2023-09-19 13:06:58
162阅读
torch.autogradtorch.autograd是PyTorch自动求导的工具，求导支撑着神经网络的训练。 文章目录torch.autograd1. 背景2. 在PyTorch中的应用3. autograd中的求导autograd如何收集梯度呢？选读：用autograd进行向量计算4. 计算图(Computational Graph)从DAG中删除(Exclusion from the D
转载
2024-01-13 21:18:17
76阅读
本系列文章面向深度学习研发者，希望通过Image Caption Generation，一个有意思的具体任务，深入浅出地介绍深度学习的知识。本系列文章涉及到很多深度学习流行的模型，如CNN，RNN/LSTM，Attention等。本文为第6篇。作者：李理 目前就职于环信，即时通讯云平台和全媒体智能客服平台，在环信从事智能客服和智能机器人相关工作，致力于用深度学习来提高智能机器人的性能。常见深度学
转载
2024-01-22 11:40:49
84阅读
简单的神经网络构建神经网络可以通过torch.nn来构建。现在对于自动梯度(autograd)有一些了解，神经网络是基于自动梯度 (autograd)来定义一些模型。一个 nn.Module包括：层和一个方法 forward(input) 它会返回输出(output)。一个典型的神经网络训练过程包括以下几点：定义一个包含可训练参数的神经网络迭代整个输入通过神经网络处理输入计算损失（LOSS）反向传
转载
2023-11-07 04:30:30
170阅读
根据本文内容用 Numpy 实现的一个前馈神经网络 https://github.com/massquantity/DNN_implementation
本篇本来是想写神经网络反向传播算法，但感觉光写这个不是很完整，所以就在前面将相关的求导内容一并补上。所谓的神经网络求导，核心是损失函数对线性输出 \(\mathbf{z} \;\; (\mathbf{z} = \mathbf{Wa} + \mat
毕设中的一个小创新点。 首先已经被证明任意连续函数都可以用3层神经网络无线逼近。背景是AWGN信道下极化码信息位的选择问题。流程中的复杂度主要存在与求函数的反函数问题。神经网络既然可以实现任意连续函数，那么输入输出对调训练出来的网络得到的就是原函数的反函数。虽然有思路但是怎么做一点没有办法一步一步实现。首先MATLAB实现不定积分 sysm x
转载
2023-05-26 09:53:09
376阅读
上一篇博文讲到用tiny-dnn实现MNIST手写数字识别，运行了tiny-dnn的官方demo。实际工程部署中，需要针对自己的数据进行训练完成分类任务，本篇博文主要是阅读分析该代码，在其基础上修改以训练自己的数据。这里我们以识别印刷体汉字为例，首先我们收集相关印刷体汉字图片，共计识别20余种汉字，每种汉字图片共计8000张下面开始修改代码，这一段为官方demo中的网络结构定义部分代码：// co
转载
2023-11-27 09:56:21
73阅读
什么是神经网络控制神经网络控制技术是一项复杂的系统控制技术，一般应用在变频器的控制中，它是通过对系统的辨识、运算后对变频器进行控制的一种新技术。而且神经网络控制可以同时控制多个变频器，所以应用在多个变频器级联控制中比较合适。什么是神经网络控制技术神经网络控制技术是一项复杂的系统控制技术，一般应用在变频器的控制中，它是通过对系统的辨识、运算后对变频器进行控制的一种新技术而且神经网络控制可以同时控制多
转载
2023-09-13 08:05:55
69阅读
实现简单神经网络1. 神经网络基本介绍2. Autograd包3. 实现神经网络3.1 定义神经网络与训练流程3.2 运行神经网络与计算损失3.3 反向传递与权值更新3.4 神经网络中损失函数的用途 1. 神经网络基本介绍神经网络包括输入层、隐藏层以及输出层。设计神经网络时，输入和输出的神经元数量是固定的，中间层的层数以及神经元数量可以自由指定。 在神经网络中输入层的数据经过每一个神经元的计算后
转载
2023-08-10 09:52:21
101阅读
Description问题背景： 人工神经网络（ Artificial Neural Network ）是一种新兴的具有自我学习能力的计算系统，在模式识别、函数逼近及贷款风险评估等诸多领域有广泛的应用。对神经网络的研究一直是当今的热门方向，兰兰同 学在自学了一本神经网络的入门书籍后，提出了一个简化模型，他希望你能帮助他用程序检验这个神经网络模型的实用性。问题描述： 在兰兰的模型中，神经网络就是
转载
2023-08-16 11:24:28
49阅读
智能控制学科包含的方法各有利弊，在实际应用中，我们应当结合不同的方法，发挥各自的优势，构成高级混合智能控制系统，获得了良好的效果。下面举例介绍几种典型的控制系统和方法。1.专家系统与神经网络专家系统是一个具有专业知识与经验的系统，可以模拟人类专家解决专业领域的问题。神经网络是一种算法模型，可以模仿动物神经网络行为特征进行信息处理。这两种技术以不同的方式获取知识，前者是自顶而下的学习，我们提供给它的
转载
2024-02-06 21:34:02
46阅读
七、激活函数的使用 通过之前的学习我们都了解到了激活函数的作用，现在我们将会讲解一下激活函数在不同的神经网络中的应用： 1、首先是sigmoid 函数： a=11+e−z 它的图像可以表示为： 但是这个激活函数多使用在二分分类输出的神经网络，因为需要寻找1和0值，所以在一般的神经网络中我们很少使用这个激活函数。对应的导数为： g′(z)=a(1−a) 这为后面的计算节省了很多时间。 2
转载
2024-01-10 20:01:43
186阅读
目录一、数据来源二、使用方式三、代码实现四、完整代码一、数据来源1.数据来源：kaggle2.数据样式通过前7列参数，判断出小麦的种类，小麦种类共有3类（第8列）。本次模型拟合度96.667%（见后续详细代码）。二、使用方式人工神经网络（Artificial Neural Network）&反向传播 (Back Propagation)方法说明：下述为简单阐述，详细说明请查阅相关文档。简单
转载
2024-01-23 14:38:57
261阅读
# 神经网络自动数据挖掘
## 1. 流程概述
在实现神经网络自动数据挖掘的过程中，我们需要经历以下几个步骤：
1. 数据收集和预处理：收集数据并对其进行清洗和预处理，包括数据清洗、数据转换和特征选择等。
2. 模型选择和构建：选择适当的神经网络模型，并构建网络结构。
3. 模型训练和优化：使用训练数据对模型进行训练，并通过优化算法调整模型参数。
4. 模型评估和验证：使用测试数据对训练好的
原创
2023-09-13 16:19:28
55阅读
卷积神经网络一、卷积神经网络与BP网络（传统前馈神经网络）相比具有以下特点：（1）、采取局部连接（稀疏连接），减少了所需参数； （2）、可直接处理二维数据，故常被用于图片处理操作； （3）、具有三个基本层——卷积层、池化层、全连接层：卷积层CNN算法常用于图片处理，其中卷积层是通过多个卷积核对输入的图片像素矩阵进行局部连接，通过权值共享与卷积的方式进行图片的特征提取得到特征映射数据。（所以卷积核又
转载
2023-09-15 15:36:43
439阅读
Towards Automated Neural Interaction Discovery for Click-Through Rate Predictionhttps://arxiv.org/pdf/2007.06434.pdf背景在实时推荐、广告、搜索等领域中，点击率(CTR)预估都是一个关键性的问题。由于数据集规模大，特征多，大家都致力于发掘新的结构或设计新体系。文中就提出了一种可以自动搜
转载
2023-11-16 19:13:06
56阅读
## 神经网络自动微分耗时
神经网络是一种强大的机器学习模型，广泛应用于各种领域，例如图像识别、语音识别和自然语言处理。神经网络的训练过程通常使用梯度下降算法来调整网络的权重，以最小化损失函数。为了计算梯度，需要使用自动微分技术。
自动微分是一种计算导数的方法，它通过在每个计算步骤中追踪中间变量的值和操作，来计算函数的导数。神经网络中的自动微分可以帮助我们计算损失函数对于网络权重的导数，从而使
原创
2023-09-17 06:19:50
53阅读
# 神经网络的自动微分
## 1. 概述
神经网络的自动微分是指通过计算机程序自动计算神经网络的梯度（导数），以便进行模型的训练和优化。在实现神经网络的自动微分之前，我们需要了解整个流程和每一步的实现细节。
## 2. 流程
下表展示了实现神经网络的自动微分的一般流程：
| 步骤 | 描述 |
| ---- | ---- |
| 步骤1 | 定义神经网络的模型结构 |
| 步骤2 | 实
原创
2023-07-28 04:03:19
204阅读
