提出问题 对于二分类问题，使用二元交叉熵损失函数，对于多分类问题，可以用分类交叉熵损失函数，对于回归问题，可以使用均方误差，对于序列问题，可以使用联结主义时序分类损失函数CTC（connectionlist temppral classfication）,但是对于以上指导解决不了的问题时，我们需要开发目标函数。选择创建新的网络结构。大脑的不同之处&nb
转载
2023-07-04 11:18:36
70阅读
卷积神经网络（Convolutional Neural Networks）与普通神经网络非常相似，它们都是由神经元组成，拥有可学习的权重（weights）和偏置（biases）。每个神经元接收多个输入，通过点成和非线性运算输出结果。
转载
2023-07-31 17:38:53
130阅读
深度神经网路已经在语音识别，图像识别等领域取得前所未有的成功。本人在多年之前也曾接触过神经网络。本系列文章主要记录自己对深度神经网络的一些学习心得。第五篇，谈谈PCA模型。本来PCA模型与深度学习是没有任何联系的。通常我们只是用PCA来对机器学习的数据做预处理。本来想详细记录一下PCA的原理，但网上已经有一篇不错的文章，链接如下：http://hi.baidu.com/ifengzh/item/8
转载
2023-08-09 16:26:57
40阅读
前言LSTM神经网络代表长期短期记忆，是一种特殊类型的递归神经网络，最近在机器学习界引起了很多关注。简而言之，LSTM网络内部具有一些上下文状态单元，它们充当长期或短期存储器单元。LSTM网络的输出由这些单元的状态调制而成。当我们的神经网络需要依赖于输入的历史背景而不是仅仅依赖于最后的输入进行预测时，这是一个非常重要的属性。举个简单的例子，设想我们想要预测一个序列的下一个数字：6 -> 7
转载
2023-12-11 21:45:43
122阅读
递归神经网络和循环神经网络循环神经网络（recurrent neural network）：时间上的展开，处理的是序列结构的信息，是有环图递归神经网络（recursive neural network）：空间上的展开，处理的是树状结构的信息，是无环图二者简称都是 RNN，但是一般提到的RNN指的是循环神经网络（recurrent neural network）。为什么有bp神经网络、CNN、还需要
转载
2023-10-30 22:58:56
119阅读
神经网络算法是由多个神经元组成的算法网络。每一个神经元的作用是这样的：
输入是多个值，输出是一个值。
其会先将多个输入值线性组合，然后把线性组合得到的值进行非线性的映射（要求映射函数可微，因为在反向传播时需要其可导），如常见的非线性映射函数为Sigmoid函数：神经网络是多层的，每一层有多个神经元，上一层神经元的输出作为下一层每个神经元的一个输入。反向传播算法：输出层的神经元的输出和实际值有一定误
转载
2018-12-23 00:30:00
249阅读
在前面，我们分别使用逻辑回归和 softmax 回归实现了对鸢尾花数据集的分类，逻辑回归能够实现线性二分类的任务，他其实就是最简单的神经网络——感知机。 而softmax回归则实现的是多分类任务，它也可以看做是输出层有多个神经元的单层神经网络。 下面，使用神经网络的思想来实现对鸢尾花数据集的分类，这个程序的实现过程和 softmax 回归几乎是完全一样的。在使用神经网络来解决分类问题时，首先，要设
转载
2023-09-02 00:00:30
199阅读
前言卷积神经网络在图像数据的处理中大放异彩。最早发布的卷积神经网络LeNet已经能取得与支持向量机相媲美的结果，深度学习时代又诞生了各种深度网络，特点和适用背景也各不相同。本文按时间顺序介绍几种经典的卷积神经网络模型，内容包括其特点、原理、模型结构及优缺点。一、LeNet发布最早的卷积神经网络之一，它结构简单，只有五层，包括两个卷积层和三个全连接层。该网络在当时的一个主要应用场景是手写数字识别。该
转载
2023-10-13 00:01:51
164阅读
1.深层神经网络深层神经网络其实就是包含更多的隐藏层神经网络。下图分别列举了逻辑回归、1个隐藏层的神经网络、2个隐藏层的神经网络和5个隐藏层的神经网络它们的模型结构。命名规则上，一般只参考隐藏层个数和输出层。例如，上图中的逻辑回归又叫1 layer NN，1个隐藏层的神经网络叫做2 layer NN，2个隐藏层的神经网络叫做3 layer NN，以此类推。如果是L-layer NN，则包含了L-1
转载
2023-10-30 23:46:24
171阅读
卷积神经网络每层提取的特征是什么样的卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。图：卷积神经网络的概念示范：输入图像通过和三个可训练的滤波器和可加偏置进行卷积，滤波过程如图一，卷积后在C1层产生三个特征映射图，然后特征映射图中每组的四个像素再进行求和，加权值，加偏置，通过一个Sigmoid函数得到三个S2层的特征映射图。这些映射图再进过滤波得到C3层。
转载
2023-10-09 21:24:11
296阅读
【翻译自 ： Neural Network Models for Combined Classification and Regression】 【说明：Jason Brownlee PhD大神的文章个人很喜欢，所以闲暇时间里会做一点翻译和学习实践的工作，这里是相应工作的实践记录
转载
2023-10-23 22:47:47
161阅读
HAWQ：基于 Hessian 的混合精度神经网络量化摘要动机方法海森方法的有效性分析海森矩阵方法推导根据幂迭代求海森矩阵的最大特征值根据海森矩阵最大特征值确定量化精度与顺序实验结果ResNet20 On CIFAR-10ResNet50 on ImageNetSqueezeNext on ImageNetInception-V3 on ImageNet消融实验海森混合精度量化的有效性Block
转载
2024-01-06 20:25:18
67阅读
随着深度学习的飞速发展，已经创建了完整的神经网络体系结构主机，以解决各种各样的任务和问题。尽管有无数的神经网络架构，但对于任何深度学习工程师来说，这里有11种必不可少的知识，它们分为四大类：标准网络，递归网络，卷积网络和自动编码器。标准网络1 | 感知器感知器是所有神经网络中最基础的，是更复杂的神经网络的基本构建块。它仅连接输入单元和输出单元。2 | 前馈网络前馈网络是感知器的集合，其中存在三种基
转载
2023-09-15 10:52:04
186阅读
神经网络模型是深度学习中需要考虑的，学习深度学习方向的朋友对神经网络模型都有一些了解。为增进大家对神经网络模型的认识，本文将对神经网络模型以及神经网络模型的机理结构予以介绍。如果你对神经网络模型具有兴趣，不妨继续往下阅读哦。模拟人类实际神经网络的数学方法问世以来，人们已慢慢习惯了把这种人工神经网络直接称为神经网络。神经网络在系统辨识、模式识别、智能控制等领域有着广泛而吸引人的前景，特别在智能控制中
转载
2023-07-25 11:31:42
116阅读
目录1 神经网络的搭建1.1 通过Sequential构建1.2 利用function API构建1.3 通过model的子类构建2 神经网络的优缺点2.1 优点2.2 缺点3 总结 1 神经网络的搭建接下来我们来构建如下图所示的神经网络模型：tf.Keras中构建模有两种方式，一种是通过Sequential构建，一种是通过Model类构建。前者是按一定的顺序对层进行堆叠，而后者可以用来构建较复
转载
2023-09-25 10:34:04
103阅读
神经网络的搭建课分四步完成：准备工作、前向传播、反向传播和循环迭代。 √0.导入模块，生成模拟数据集； import 常量定义 生成数据集 √1.前向传播：定义输入、参数和输出 x= y_= w1= w2=
转载
2019-05-27 09:45:00
241阅读
1、概述 本来想用卷积神经网络来预测点东西，但是效果嘛......，还是继续学习图像类的应用吧～前面学习的神经网络都是一些基础的结构，这些网络在各自的领域中都有一定效果，但是解决复杂问题肯定不够的，这就需要用到深度神经网络。深度神经网络是将前面所学的网络组合起来，利用各自网络的优势，使整体效果达到最优。这一节就简单的记下一些常用的深度神经网络模型，因为tensorflow等框架都将这些网络实现了，
转载
2023-10-03 20:24:38
304阅读
一、前馈神经网络基本模型前馈神经网络是最基本的神经网络，其中的一些基本概念在神经网络的研究中被广泛的使用。一个前馈神经网络可以看做是一个函数 fθ:x→y 其中输入
x∈Rn，输出
y∈Rm，函数的行为通过参数
θ∈Rp 来决定。 构造一个神经网络，需要的各个要素如下：1、神经元模型神经元模型是构建神经网络的基本模块。神经元模型的要素如下：每个神经元的输入为一个向量 x∈Rn，输
转载
2023-08-08 13:30:42
266阅读
目录 目录概述神经元模型与生物学的联系单神经元作为线性分类器常用的激活函数神经网络架构分层组织前馈计算示例神经网络的表示能力设置图层数量及其大小概要引用 概述无需类比大脑的机制我们也能介绍神经网络。本节我们通过线性分类器，通过公式s=Wx
s
=
W
神经网络可以通过 torch.nn 包来构建。现在对于自动梯度(autograd)有一些了解，神经网络是基于自动梯度 (autograd)来定义一些模型。一个 nn.Module 包括层和一个方法 forward(input) 它会返回输出(output)。例如，看一下数字图片识别的网络：这是一个简单的前馈神经网络，它接收输入，让输入一个接着一个的通过一些层，最后给出
转载
2023-10-17 10:35:57
116阅读
