【导读】在计算机神经视觉技术的发展过程中，卷积神经网络成为了其中的重要组成部分，本文对卷积神经网络的数学原理进行了介绍。文章包括四个主要内容：卷积、卷积层、池化层以及卷积神经网络中的反向传播原理。在卷积部分的介绍中，作者介绍了卷积的定义、有效卷积和相同卷积、跨步卷积、3D卷积。在卷积层部分，作者阐述了连接切割和参数共享对降低网络参数学习量的作用。在池化层部分，作者介绍了池化的含义以及掩膜的使用。自
转载
2024-01-29 08:33:12
54阅读
本文为《Python深度学习》的学习笔记。第2章 神经网络的数学基础2.1 初识神经网络完整代码2.2 神经网络的数据表示2.2.1 标量（0D张量） 2.2.2 向量（1D张量） 2.2.3 矩阵（2D张量） 2.2.4 3D张量和更高维张量2.2.5 关键属性 &
转载
2023-11-26 11:00:20
128阅读
卷积神经网络学习
一、视频学习反思1、神经网络基础（续） （1）自编码器变种：正则自编码器（乘法大权重的L2正则化）、稀疏自编码器（限制神经元平均激活度在很小的值、KL散度）、去燥自编码器（提取鲁棒特征表达）、变分自编码器（隐含空间Z） （2）局部极小值主要是多个隐层复合函数导致的（凸函数指的是二阶导数的符号大于0）、逐层预训练是为了增加扰动能够跳出
转载
2023-08-27 22:34:44
102阅读
大部分介绍神经网络的文章中概念性的东西太多，而且夹杂着很多数学公式，读起来让人头疼，尤其没什么基础的人完全get不到作者想要表达的思想。本篇文章尝试零公式（但有少量数学知识）说清楚什么是神经网络，并且举例来说明神经网络能干什么。另外一些文章喜欢举“根据历史交易数据预测房子价值”或者“根据历史数据来预测未来几天是否下雨”的例子来引入“机器学习/深度学习/神经网络/监督学习”的主题，并介绍他们的作用，
转载
2023-09-10 22:41:49
3阅读
大部分介绍神经网络的文章中概念性的东西太多，而且夹杂着很多数学公式，读起来让人头疼，尤其没什么基础的人完全get不到作者想要表达的思想。本篇文章尝试零公式（但有少量数学知识）说清楚什么是神经网络，并且举例来说明神经网络能干什么。另外一些文章喜欢举“根据历史交易数据预测房子价值”或者“根据历史数据来预测未来几天是否下雨”的例子来引入“机器学习/深度学习/神经网络/监督学习”的主题，并介绍他们的作用，
转载
2023-09-10 22:48:07
4阅读
神经网络的数学基础数学概念：张量、张量运算、微分、梯度下降。深度学习中的数据概念张量常见的张量类型张量： 它是一个数据容器，模型中最基本的数据结构，比如，矩阵（2维张量）标量（0D张量） 标量： 仅仅包含一个数字的张量（标量张量，零维张量，0D张量）在 Numpy中，一个 float32 或 float64 的数字,可以通过ndim属性来查询轴的个数。向量（1D张量） 向量：数字组成的数组，只有一
转载
2023-12-26 16:51:32
69阅读
我感觉这样记录，对于我来说挺好的。因为我看两端对齐的语句容易走神，这样记录阅读的话，就很少出现之前的情况。我写的初衷，也是自己来看，所以感觉写的不好的，请保留下意见，谢谢。 里面的每一个字我都看过，加粗 括号 下划线 等均是我的笔记。 要理解深度学习，需要熟悉很多简单的数学概念：
张量、张量运算、微分、梯度下降等。
本章目的是用
神经元模型神经元模型是神经网络中的基本单元。它是一种数学模型，可以接收输入信号，对其进行加权处理并施加一个激活函数，最终输出一个结果。神经元模型通常由多个输入和一个输出组成，每个输入都有一个权重参数，用于表示该输入对输出的重要程度。输入信号与权重相乘后相加，再通过激活函数进行处理，得到最终的输出结果。神经元模型的数学表达式为：其中，表示神经元的输入，表示每个输入对应的权重，b表示偏置，表示激活函数
转载
2023-08-08 06:56:13
332阅读
1.BP神经网络clear all; clc ;
data=[
-1.17 -0.73 2.2 -0.6 -0.34 -0.4 -1.59 -0.15 0.09 -0.42
-0.16 -0.08 -0.75 -0.46 -0.7 -0.69 0.36 0.07 -0.48 0.26
转载
2023-06-07 16:33:40
100阅读
在机器学习和认知科学领域，人工神经网络（英文：artificial neural network，缩写ANN），简称神经网络（英文：neural network，缩写NN）或类神经网络，是一种模仿生物神经网络(动物的中枢神经系统，特别是大脑)的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结构，
神经网络的数学基础要理解深度学习，需要熟悉很多简单的数学概念：张量、张量运算、微分、梯度下降等。本章将首先给出一个神经网络的示例，引出张量和梯度下降的概念，然后逐个详细介绍。 请记住，这些概念对于理解后续章节中的示例至关重要。1、初识神经网络我们来看一个具体的神经网络示例，使用 Python 的 Keras 库来学习手写数字分类。我们这里要解决的问题是，将手写数字的灰度图像（28 像素×28 像素
转载
2023-11-23 17:15:04
19阅读
神经网络模型一、神经网络原理 对网络模型的研究始于20世纪40年代，作为一门交叉学科，它是人类基于对其大脑神经认识的基础上，人工构造实现某种功能的网络模型。经过将近70年的发展，神经网络模型已成为机器学习的典型代表，它不依照任何概率分布，而是模
转载
2024-03-12 22:06:16
56阅读
深度神经网络（Deep Neural Networks， 简称DNN）是深度学习的基础，是深度学习的一种框架。它是一种具备至少一个隐层的神经网络，与浅层神经网络类似，深度神经网络也能够为复杂非线性系统提供建模，但多出的层次为模型提供了更高的抽象层次，因而提高了模型的能力。以下论文供大家参考学习：1.Universality of Deep Convolutional Neural Networks
转载
2023-08-14 08:41:05
203阅读
2021研究生数学建模D题，BP神经网络和卷积神经网络解题代码（基于pytorch）（需要数据或者有关于代码问题请留言）第二题本题是利用二十个自变量对最后的结果（因变量）做预测，本题我使用BP神经网络解题。先将数据整理好，把二十个变量选出来放入新的excel表，把因变量放在最后一列。下面进行代码解析（代码博主已经跑通）导入包import numpy as np
import pandas as p
转载
2023-10-13 00:22:18
125阅读
数学建模：神经网络预测参考清风数学建模 由于我对matlab交互app了解不多，有些地方解释可能不对，欢迎批评指正。
原理部分如果需要建立复杂的模型完成预测任务，选用神经网络。 了解简单神经网络的基本原理有利于论文书写以及其他模型(如多用到的RNN以及相应变体LSTM，GRU等等)的快速上手应用。清风数学建模课程在这部分推荐了几个原理学习笔记/视频，我个人觉得还是系统地去看好的网课学习来的扎
转载
2023-09-17 18:54:20
79阅读
神经网络的数学基础：1.矩阵线性变换（起到尺度和旋转上的变化，W·x与升降维、放大缩小相关，b与平移相关，与弯曲相关）2.矩阵的秩（秩越低，数据分布越容易被捕捉，相关性大）、低秩近似（保留决定数据分布最主要的模式/方向）3.概率概率分布、似然函数、对数似然函数、最大对数似然4.策略设计：机器学习的目的是获得最小泛化误差无免费午餐定理、奥卡姆剃刀定理5.欠拟合：提高模型复杂度：降低模型复杂度6.频率
转载
2023-10-13 00:22:11
82阅读
本博客适合那些BP网络很熟悉的读者一 基本结构和前向传播符号解释：1. $c_{t}^{l}$：t时刻第l层的神经元的集合，因为$c_{t}^{l}$表示的是一层隐藏层，所以图中一个圆圈表示多个神经元。2. $h_{t}^{l}$：第l层在t时刻的输出。因为$h_{t}^{l}$是一层隐藏层的输出，所以表示的是一个向量。3. $L_{j}$：表示的是在j时刻，网络的输出的值和目标输出值的平方差，L
转载
2024-03-03 22:22:27
89阅读
神经网络：表示（Neural Networks: Representation）如今的神经网络对于许多应用来说是最先进的技术。对于现代机器学习应用，它是最有效的技术方法。神经网络模型是许多逻辑单元按照不同层级组织起来的网络， 每一层的输出变量都是下一层的输入变量。下图为一个 3 层的神经网络：第一层为输入层（Input Layer）中间一层为隐藏层（Hidden Layers）最后一层为输出层（O
转载
2023-10-23 23:34:40
114阅读
循环神经网络介绍结构介绍循环神经网络 RNN 的基本结构是 BP 网络的结构，也是有输入层，隐藏层和输出层。只不过在 RNN 中隐藏层的输出不仅可以传到输出层，并且还可以传给下一个时刻的隐藏层，如下图所示：注意：整个RNN结构是共享一组W、U、V、b的，这个RNN结构的一个重要特性。RNN 的结构可以展开为右边的结构，其中 为输入信号， 为t-1时刻的输入信号， 为 t 时刻的输入信号， 为
转载
2023-12-28 15:38:09
124阅读
深度前馈网络 我们从统计学出发，先很自然地定义一个函数 f，而数据样本由⟨Xi,f(Xi)⟩给出，其中 Xi 为典型的高维向量，f(Xi) 可取值为 {0,1} 或一个实数。我们的目标是找到一个最接近于描述给定数据的函数 f∗（不过拟合的情况下），因此其才能进行精准的预测。 在深度学习之中，总体上来说就是参数统计的一个子集，即有一族函数 f(X;θ)，其中 X 为输入数据，θ为参数（典型的高阶矩
转载
2023-08-08 19:47:30
29阅读
