前言参考大佬的文章写的一篇萌新学习笔记，不足之处请多指教！对于神经网络的理解1.神经网络的用途神经网络最重要的用途就是分类。分类器：能自动对输入的东西进行分类。输入的是一个数值向量，输出的也是数值。分类器的目标就是让正确分类的比例尽可能高。一般我们需要首先收集一些样本，人为标记上正确分类结果，然后用这些标记好的数据训练分类器，训练好的分类器就可以在新来的特征向量上使用。2.神经元简单来说就是能将一
转载
2023-10-18 20:04:33
111阅读
sigmod函数通常作为激活函数sigmod函数 导数 sigmod函数作用这个看了很久一直不明白，但是多看几次总没错，因为在看了n次之后的现在我明白了。 简单的理解就是：将输入的值收敛起来(光滑和约束)。 如果是发散的，那就没有规律了 让一些没有规律的数字展现出规律来， 而函数的作用就是将输入转为另外一种输入，将问题转为另一个问题 这就是我的理解，暂时也不知道对不对，有新的理解了再来更
转载
2023-10-18 07:45:12
63阅读
欢迎来到你的第一个编程作业，在这次作业中你将会用逻辑回归去识别一个猫。并且在这次作业中你将会用神经网络的思维去一步一步的去解决这个问题和磨练你的深度学习的直觉。说明：在你的代码中不能使用for或while循环，除非说明明确要你这么做。你将会学习到：1.建立一个学习算法的一般结构，包括初始化参数计算代价函数和它的梯度使用最优化算法（梯度下降）2.用正确的顺序将上面三个函数集合到一个主函数模型里。1
转载
2023-08-28 07:56:16
158阅读
6.循环神经网络6.1给神经网络增加记忆能力 前馈神经网络无法处理可变大小的输入，因此前馈神经网络限制了很多应用场景，比如处理长短不一的时序数据 前馈神经网络 每次输入都独立 延时函数z 得到延时单元再影响输出 自回归模型：和输入的y有关系 非线性自回归模型:不仅和时间变量y有关,还和外部输入x有关另一种：循环神经网络6.2循环神经网络6.3应用到机器学习6.4参数学习与长程依赖问题γ大于1或小于
资料下载链接：https://pan.baidu.com/s/1LoMe9bS_ig0wB7ubR9m39Q 提取码：afhc，请在开始之前下载好所需资料。【博主使用的python版本：3.9.12】，当然也使用tensorflow2.1. 神经网络的底层搭建 这里，我们要实现一个拥有卷积层（CONV）和池化层（POOL）的网络，它包含了前向和反向传播。nH,nW,nc,是指分别表示给定层的图像
转载
2023-05-24 15:16:10
103阅读
1、weights、bias 参数学习我们希望有一种学习算法，它能够自动地调整网络中的权重因子和偏置。 （1）假设一个小的权重变化（或偏置）对输出也产生较小的影响，那么我们通过这一策略来修改的权重（weight）和偏置（bias），让网络学习到更多想要的规则。例如，假设在网络中图像“9”被误分为“8”时。可以通过校正权重和偏（每次做细小的改变），使网络变得更接近分类的图像为“9”。问题并不是想象
Sigmoid函数 Sigmoid 是使用范围最广的一类激活函数，具有指数函数形状 。正式定义为：代码： x=-10:0.001:10;
%sigmoid和它的导数
sigmoid=1./(1+exp(-x));
sigmoidDer=exp(-x)./((1+exp(-x)).^2);
figure;
plot(x,sigmoid,‘r‘,x,sigmoi
转载
2023-11-06 18:27:24
50阅读
文章目录1. Binary Classification2. Logistic Regression3. Logistic Regression Cost Function4. Gradient Descent5. Derivatives6. More Derivative Examples7. Computation graph8. Derivatives with a Computation
目录神经网络激活函数引入激活函数原因：sigmoid激活函数tanh 激活函数ReLU 激活函数（最常用）SoftMax如何选择反向传播参数初始化方法优化方法正则化批量归一层网络模型调优的思路 神经网络简单的神经网络包括三层：输入层，隐藏层，输出层。 其中隐藏层可以有很多层，每一层也可以包含数量众多的的神经元。激活函数引入激活函数原因：激活函数用于对每层的输出数据进行变换, 进而为整个网络结构结
深度学习的基础简单单元就是线性回归，线性回归的背景知识我们都有很多丽了解，最简单的就是一元线性回归，复杂的神经网络就是很多（相当大）的线性单元构成，包括卷积等。为了体现微分的数值计算深入理解深度学习是如何工作的，尽管强大的深度学习框架可以减少大量重复性工作，但若过于依赖它提供的便利，会导致我们很难理解工作原理。因此，这里介绍如何只利用C++来实现一个一元线性回归的训练。原始数据集变量1234567
转载
2023-09-27 12:38:48
66阅读
线性回归的表示方法这节我们解释线性回归与神经网络的联系，以及线性回归的矢量计算表达式。神经网络图在深度学习中，我们可以使用神经网络图直观地表现模型结构。为了更清晰地展示线性回归作为神经网络的结构，下图使用神经网络图表示本节中介绍的线性回归模型。神经网络图隐去了模型参数权重和偏差。在如图所示的神经网络中，输入分别为 和 ，因此输入层的输入个数为2。输入个数也叫特征数或特征向量维度。图中网络的输出为，
转载
2023-09-21 06:07:35
86阅读
神经网络一、线性回归与神经网络单层单个输出多个输出多层二、神经网络原理一般结构神经网络传播过程三、激活函数为什么要使用非线性激活函数常用的激活函数(1) sigmoid函数(2) Tanh函数 一、线性回归与神经网络神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术。单层单个输出假设现需要预测房屋的出售价格，房屋通过以下特征，面积（）空气指数（），交通指数()，最终输出价格（）
转载
2023-08-11 12:45:40
333阅读
只要神经元足够，神经网络可以以任意精度逼近任意函数。为了拟合非线性函数，需要向神经网络中引入非线性变换，比如使用\(sigmoid\)激活函数：\[sigmoid(x)=\frac{1}{1+e^{-x}}
\]\(sigmoid(x)\)可简写为\(\sigma(x)\)，该函数可以将实数压缩到开区间\((0,1)\)。其导数为：\[\sigma'(x)=\frac{e^{-x}}{(1+e^{
本课程对应的作业，本人已翻译，放在github上，地址如下：https://github.com/fuhuaxu/deeplearning-ai-assignment/tree/master/lesson1上节课我们主要对深度学习（Deep Learning）的概念做了简要的概述。我们先从房价预测的例子出发，建立了标准的神经网络（Neural Network）模型结构。然后从监督式学习入手，介绍了
BP神经网络手写数字识别的matlab实现BP神经网络原理BP神经网络是一种按误差逆传播算法训练的多层前馈网络。标准的前馈神经网络一般包括三层神经，即输入层，隐含层，输出层，每层神经包含的神经元个数不一。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。网络上有许多BP神经网络的原理，比较通俗易懂，读者可以自行搜索。这里推荐一篇BP神经网络权值迭代过程的
转载
2023-11-02 09:19:09
47阅读
Sigmoid函数，即。是神经元的非线性作用函数。广泛应用在神经网络中。神经网络的学习是基于一组样本进行的，它包括输入和输出（这里用期望输出表示），输入和输出有多少个分量就有多少个输入和输出神经元与之对应。最初神经网络的权值（Weight）和阈值（Threshold）是任意给定的，学习就是逐渐调整权值和阈值使得网络的实际输出和期望输出一致。给定以下的总输入，我们可以基于sigmoid函数得到连续的
根据每一层前面的激活、权重和偏置，我们要为下一层的每个激活计算一个值，但在将该值发送给下一层之前，要是用激活函数对这个输出进行缩放。sigmoid函数sigmoid函数是一个logistic函数，意思是说不管输入什么，输出都在0到1之间，也就是输入的每个神经元、节点或激活都会被锁放在一个介于0到1之间的值。sigmoid 这样的函数常被称为非线性函数，因为我们不能用线性的项来描述它。很多激活函数都
转载
2023-09-18 21:54:19
80阅读
深度学习PyTorch笔记（11）：线性神经网络——线性回归5 线性神经网络5.1 线性回归5.1.1 线性回归的基本元素5.1.2 解析解5.1.3 数值解5.2 线性回归的从零开始实现5.2.1 生成数据集5.2.2 读取数据5.2.3 建立模型5.3 线性回归的简洁实现5.3.1 生成数据集5.3.2 读取数据5.3.3 建立模型 这是《动手学深度学习》（PyTorch版）（Dive-in
神经网络-回归（Python）回归与神经网络简介回归分析神经网络神经网络学习算法原理监督学习和无监督学习多层感知器——MLPBP神经网络代码实现（利用sklearn库）根据算法写出BP 回归与神经网络简介回归分析回归分析（regression analysis)是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。回归分析的作用是： ①从一组数据出发确定某些变量之间的定量关系式 ②对变
转载
2023-06-16 10:14:07
281阅读
本文可能跟大家普遍认知的机器学习的应用思路有些差异，公认的机器学习的步骤是：数据的探索分析 -> 数据转换和清洗 -> 特征工程选择 -> 特征工程提取 -> 模型训练 -> 调参 -> 应用。本文的思路则是在ML能力没那么强，但对业务比较熟悉的情况下，怎么快速利用机器学习的原理实现回归测试结果的抽样问题，比较适合新手。本文主要介绍一个利用神经网络原理在导航系统
转载
2023-08-21 22:52:17
122阅读
