《深度学习入门》（俗称：鱼书）读书笔记 Day4卷积神经网络CNN1.整体结构CNN主要应用于图像识别，语音识别等场合。 之前介绍的神经网络可以称为全连接神经网络，Affine层后面跟着激活函数层，最后再经过Affine层和Softmax层输出最后的结果。 CNN是卷积层+激活函数层+池化层+···+Affine层+激活函数层+Affine层+Softmax层。靠近输出的层使用之前的Affine+
转载
2024-06-26 04:44:26
57阅读
多元时间序列预测的时间模式注意题目：Temporal Pattern Attention for Multivariate Time Series Forecasting作者：Shun-Yao Shih, Fan-Keng Sun, Hung-yi Lee来源：Machine Learning (cs.LG)Submitted on 12 Sep 2018 (v1), last revised 2
转载
2024-04-08 10:37:53
160阅读
1、神经网络首先了解神经网络，大家移步这俩篇博客，一篇为纯理论，一篇为实战加理论。机器学习之神经网络学习及其模型入门讲解：使用numpy实现简单的神经网络(BP算法)2、卷积神经网络之层级结构cs231n课程里给出了卷积神经网络各个层级结构，如下图 上图中CNN要做的事情是：给定一张图片，是车还是马未知，是什么车也未知，现在需要模型判断这张图片里具体是一个什么东西，总之输出一个结果：如
转载
2024-04-07 21:20:29
50阅读
卷积网络 2基础卷积函数的变体zero-pad如何训练数据类型卷积的高效关于数据类型nextVariants of the basic convolution functionzero-padhow to trainData typesEfficient convolution algorithmsmore information about data typesnext 卷积网络 (2)基础卷
转载
2024-04-15 15:03:46
71阅读
繁杂的样本难以抹去你的光芒我只希望我能够一睹你的模样——题记这诗让我憋了半个小时才憋出来……CNN各层通道数的设置CNN和DNN不同，每层不是一维的，而是三维的，有长宽厚三个维度。输入层（可以当做汇合层与下一卷积层连接）的通道数往往是3，分别保存RGB三色（如果是灰度图，通道数可以设为1，保存的颜色可以是RGB中的任意一个，反正它们都相等）。对于通道数为n前层，下一层卷积层的通道数为
转载
2024-03-16 00:21:06
94阅读
文章目录目录1.CNN学习2.Keras深度学习框架 目录1.CNN学习 卷积神经网络CNN总结 从神经网络到卷积神经网络（CNN）我们知道神经网络的结构是这样的：那卷积神经网络跟它是什么关系呢？其实卷积神经网络依旧是层级网络，只是层的功能和形式做了变化，可以说是传统神经网络的一个改进。比如下图中就多了许多传统神经网络没有的层次。 卷积神经网络的层级结构
转载
2024-03-29 14:18:10
118阅读
1、各层作用 输入层 输入层是整个神经网络的输入，一般代表的是图片的像素矩阵(一般为三维矩阵，即像素x像素x通道)卷积层 每一层卷积都会提取数据特征,再经过组合和抽象形成更高阶的特征。池化层 保留最显著的特征，提升模型的畸变容忍能力（平移不变性）。池化层可以非常有效地缩小图片的尺寸。从而减少最后全连接层的参数，在加快计算速度的同时也防止了过拟合的产生，提高了
转载
2023-10-08 08:27:04
88阅读
目录一、程序及算法内容介绍：基本内容：亮点与优势： 二、实际运行效果：三、算法介绍：四、完整程序+数据分享下载：一、程序及算法内容介绍：基本内容：本代码基于Matlab平台编译，将PSO(粒子群算法)与CNN-LSTM（卷积-长短期记忆神经网络）结合，进行多输入数据时序预测输入训练的数据包含8个特征，1个响应值，即通过7个输入值预测1个输出值（多变量时序预测，输入输出个数可自行指定）归一
转载
2024-07-02 09:47:52
36阅读
目录CNN中输入Tensor滤波器运算感悟总结CNN中输入TensorCNN的输入形状通常为4，分别用一个字母代表每个轴上的长度，那么它的shape为：[B,C,H,W]我们从右往左看：对于H、W，我们应当能想到它是输入图像的长度与宽度，比如在fashion图像数据集里的图像数据为28*28、VGG-16神经网络所使用的图像大小224*224。C表示的颜色通道数，常见的RGB通道为3，而灰度图像的
转载
2024-04-17 14:18:17
53阅读
卷积神经网络与前面学的常规神经网络很相似，也有输入、权重、偏差、损失函数、激活函数、全连接层等概念，之前的一些小的技巧也仍然适用。与常规神经网络的对比卷积神经网络（Convolutional Neural Networks，CNNs / ConvNets）明确的假设输入inputs为图像，这使得ConvNets需要前向传播更加高效的执行，同时要大幅度的减小网络中的参数数量。常规神经网络：接收一个输
转载
2024-04-07 11:58:23
64阅读
1、首先介绍tf.nn.conv2d()函数, 其函数原型：conv2(
input,
filter,
strides,
padding,
use_cudnn_on_gpu=None,
data_format=None,
name=None
)(1) input(输入)：类型为tf.float32或tf.float64。通常指需要做卷积的输入
转载
2024-04-11 14:19:07
186阅读
# 深度学习可变长度输入的探索
在深度学习的应用中，我们常常需要处理变长输入，如自然语言处理（NLP）中的句子或音频信号。因为深度神经网络通常要求输入具有固定的维度，如何有效处理可变长度的输入成为了一个重要的研究方向。
## 为什么需要可变长度输入？
在很多应用场景中，输入数据的长度是不固定的。例如：
- **自然语言处理**：句子可以长也可以短。
- **时间序列数据**：每个时间段的数
最近在使用Keras和Pytorch处理时间序列数据，在变长数据的输入处理上踩了很多坑。一般的通用做法都需要先将一个batch中的所有序列padding到同一长度，然后需要在网络训练时屏蔽掉padding的值。在pytorch和keras中都有各自对padding值的处理，简单做一下总结。Keras使用Masking层Keras中自带的屏蔽padding值的方式，在网络结构比较简单时使用很方便。
转载
2023-12-27 15:44:29
111阅读
CNN Features off-the-shelf: an Astounding Baseline for Recognition 解读0 摘要最近的结果表明，卷积神经网络提取的通用描述符非常强大。本文添加了许多证据，证明确实如此。我们针对不同识别任务进行了一系列实验，这些实验使用了OverFeat网络，经过训练后可以在ILSVRC13上进行图像分类。我们使用从OverFeat网络提取的特征作为
LeNet手写字体识别模型LeNet5诞生于1994年，是最早的卷积神经网络之一。LeNet5通过巧妙的设计，利用卷积、参数共享、池化等操作提取特征，避免了大量的计算成本，最后再使用全连接神经网络进行分类识别，这个网络也是最近大量神经网络架构的起点。卷积网络的第一个成功应用是由Yann LeCun在20世纪90年代开发的，其中最著名的是用于读取邮政编码、数字等的LeNet体系结构。AlexNetA
转载
2024-08-08 22:08:39
16阅读
行人检测 概述：RCNN系列，YOLO系列和SSD系列。其中RCNN系列算法是现在使用的最广泛的基于深度学习的行人检测算法。 在说行人检测之前不得不说一下目标检测。行人检测是目标检测下的一个分支，其检测的标签是行人。我理解的目标检测是准确地找到给定图片中对象的位置，并标出对象的类别。目标检测所要解决的问题是目标在哪里以及其状态的问题。但是，这个
转载
2024-06-03 10:15:03
58阅读
为了解决RNN的长时依赖的问题。RNN无法保存较长的时间的信息，因为梯度消失问题。输入问题先讲一点编程时候的输入问题，LSTM的输出其实就是相当于每次输入一个序列(一个序列样本)。写input的时候，直接写 inputs = Input(shape=(length_rows,length_cols)),如下所示，每一个时间步其实就是length_rows，每一个时间步中的绿点就是length_co
转载
2024-03-18 09:51:45
98阅读
CNN——Convolutional Neural Network
卷积神经网络简介特点 将大数据量的图片降维成小数据量有效保留图片特征应用领域 人脸识别、自动驾驶、无人安防CNN解决的问题 图像的数据量太大，导致成本很高，效率很低图像在数字化的过程中容易丢失特征（其实就对应了两个特点）下面具体看一下这两个问题数据量大图像是由很多像素构成的，每
转载
2024-04-08 10:40:04
60阅读
读书笔记-深度学习入门卷积神经网络全连接层的问题卷积运算填充步幅3维数据的卷积运算池化层卷积层的实现池化层的实现最具代表性的CNN深度学习加深层的好处深度学习的高速化强化学习 卷积神经网络基于CNN的一个网络 全连接层是指相邻神经元之间都有连接。CNN中，有时将卷积层的输入输出数据成为特征图。全连接层的问题全连接层会忽视输入数据的形状，比如输入数据是一张图像，图像通常是3维数据，包括长，宽，通道
转载
2024-05-11 17:47:17
104阅读
隐藏层不是输入或输出层的所有层都称为隐藏层.激活和池化都没有权重使层与操作区分开的原因在于层具有权重。由于池操作和激活功能没有权重，因此我们将它们称为操作，并将其视为已添加到层操作集合中。
例如，我们说网络中的第二层是一个卷积层，其中包含权重的集合，并执行三个操作，即卷积操作，relu激活操作和最大池化操作。传入Linear层之前展平张量在将输入传递到第一个隐藏的Linear层之前，我们必须res
转载
2024-05-21 18:13:38
33阅读
