TCN基本结构时域卷积网络（Temporal Convolutional Network，TCN）由Shaojie Bai et al.在2018年提出的，可以用于时序数据处理，详细内容请看论文。1.因果卷积（Causal Convolution）因果卷积如上图所示。对于上一层t时刻的值，只依赖于下一层t时刻及其之前的值。与传统的卷积神经网络的不同之处在于，因果卷积不能看到未来的数据，它是单向的结
转载
2023-08-21 08:46:12
541阅读
目录一、引言二、时序卷积神经网络2.1 因果卷积（Causal Convolution）2.2 膨胀卷积（Dilated Convolution）2.3 残差链接（Residual Connections）三、讨论和总结1. TCN的优点2. TCN的缺点参考论文：An Empirical Evaluation of Generic Convolutional and Recurrent Netw
1、文章信息《Attention Based Spatial-Temporal Graph Convolutional Networks for Traffc Flow Forecasting》。北京交通大学计算机学院博士生2019年初发在AAAI顶会上的一篇文章。2、摘要针对交通流预测问题，提出了一种基于注意力机制的时空图卷积网络(ASTGCN)模型。ASTGCN主要由三个独立部分组成，分
卷积神经网络 CNN 文章目录卷积神经网络 CNN一、概述二、卷积的概念三、CNN原理3.1 卷积层3.2 池化层3.3 完全连接层3.4 权值矩阵BP算法3.5 层的尺寸设置四、CNN简单使用五、总结 一、概述 卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。
转载
2023-07-10 16:09:28
440阅读
AI领域是一个非常交叉的领域，涉及很多技术：数学、软体、硬件和，尤其还有硬件环节，不过一切来源或输入的入口一般有三个：一个是图像识别和处理是其中一个非常重要的环节，一个是自然语言处理，还有一个就是借口输入。一、这是一个python卷积神经网络的代码（开源）：https://github.com/yangshun2005/CNN_sentence 二、下面是一些基本公式，以备忘：写CNN的
转载
2023-08-10 17:29:39
292阅读
卷积学习网络1.卷积神经网络简介一般的前馈神经网络权重参数矩阵过大，过拟合风险很高，并且在做图像处理时需要将图像展开为向量，这会丢失一些空间信息，于是在此基础上开发出卷积神经网络作为优化。卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络，与普通前馈神经网络不一样的是，卷积神经网络的输入层为图像数据（32x32x3矩阵）而不是将图像数据展开为向量计算，隐含层不再仅仅是神经层简单的线性非线性
转载
2023-08-18 20:40:14
293阅读
卷积运算与相关运算在计算机视觉领域，卷积核、滤波器通常为较小尺寸的矩阵，比如\(3\times3\)、\(5\times5\)等，数字图像是相对较大尺寸的2维（多维）矩阵（张量），图像卷积运算与相关运算的关系如下图所示（图片来自链接），其中\(F\)为滤波器，\(X\)为图像，\(O\)为结果。相关是将滤波器在图像上滑动，对应位置相乘求和；卷积则先将滤波器旋转180度（行列均对称翻转），然后使用旋
转载
2023-08-12 21:20:43
215阅读
ConvNets
卷积神经网络的结构基于一个假设，即输入数据是图像，基于该假设，我们就向结构中添加了一些特有的性质。这些特有属性使得前向传播函数实现起来更高效，并且大幅度降低了网络中参数的数量。
转载
2023-07-31 16:58:42
722阅读
卷积神经网络一、卷积神经网络与BP网络（传统前馈神经网络）相比具有以下特点：（1）、采取局部连接（稀疏连接），减少了所需参数； （2）、可直接处理二维数据，故常被用于图片处理操作； （3）、具有三个基本层——卷积层、池化层、全连接层：卷积层CNN算法常用于图片处理，其中卷积层是通过多个卷积核对输入的图片像素矩阵进行局部连接，通过权值共享与卷积的方式进行图片的特征提取得到特征映射数据。（所以卷积核又
转载
2023-09-15 15:36:43
326阅读
（一）卷积神经网络卷积神经网络最早是由Lecun在1998年提出的。卷积神经网络通畅使用的三个基本概念为：1.局部视觉域；2.权值共享；3.池化操作。 在卷积神经网络中，局部接受域表明输入图像与隐藏神经元的连接方式。在图像处理操作中采用局部视觉域的原因是：图像中的像素并不是孤立存在的，每一个像素与它周围的像素都有着相互关联，而并不是与整幅图像的像素点相关，因此采用局部视觉接受域可以类似图
一、卷积神经网络卷积神经网络包括：卷积层、激活函数、池化层、全连接层通常把神经网络的隐藏层分为 卷积层和池化层二、卷积层块一般包括：卷积层+激活函数+汇聚层（池化层，又叫下采样层）三、概念及作用1）卷积层（Convolutional layer）通过卷积操作（线性操作，即在原始图像上平移）对输入图像进行降维和特征提取如图所示，卷积层实际上，就是按照模板（卷积核）的样子扫描原始图像，图像的
转载
2023-08-26 12:55:16
263阅读
目录1.前言：2.CNN的卷积过程：3.CNN的池化过程：4.CNN的激活过程：5.总结：1.前言：神经网络在好几年前出现感觉像是一个降维打击，适用的场景包括股市分析，环境监测，医学影像，生物信息基因序列等等等等，最近这几年来，随着越来越多的人去了解神经网络后，神经网络已经是火的一塌糊涂了。而毫不夸张的说，现在处在的这个人工智能的时代，我们作为参与者或多或少会用过的一些东西，可能这些东西背后的算法
卷积过程是卷积神经网络最主要的特征。然而卷积过程有比较多的细节，初学者常会有比较多的问题，这篇文章对卷积过程进行比较详细的解释。1.卷积运算首先我们需要知道什么是卷积计算，它其实是一种简单数学运算，有两个步骤：一个是矩阵内积乘法，另一个是将内积乘法的结果进行全加。 （1）矩阵内积乘法 矩阵的内积乘法非常简单，就是把两个相乘的矩阵，相同位置的元素进行乘法运算，这个时候会得到一个新的矩阵（在这里我们需
转载
2023-08-11 10:13:07
160阅读
卷积神经网络——卷积操作在上一篇《卷积神经网络简介》里我们介绍了卷积神经网络包含四个主要的操作，其中最重要的就是本文要讲述的“卷积”操作。对于CNN，卷积操作的主要目的是从输入图像中提取特征。卷积通过使用输入数据的小方块学习图像特征来保留像素之间的空间关系。 图 1
卷积操作就是卷积核（过滤器 / Filter）在原始图片中进行滑动得到特征图（Feature Map）的
转载
2023-08-16 16:42:47
235阅读
一、基本概念1.卷积（Convolution)卷积是一个物理和数学的概念，可以理解为，系统某一时刻的输出是由多个输入共同作用（叠加）的结果。 卷积公式如下：详细讲解可以看【从“卷积”、到“图像卷积操作”、再到“卷积神经网络”，“卷积”意义的3次改变】实质上，卷积就是对信息（信号）进行“过滤”（滤波），它能够“过滤出”我们感兴趣、对我们有用的信息。在这里的卷积和物理数学上的概念不一同，在图像的卷积操
反卷积是指，通过测量输出和已知输入重构未知输入的过程。在神经网络中，反卷积过程并不具备学习的能力，仅仅是用于可视化一个已经训练好的卷积网络模型，没有学习训练的过程。对于一个复杂的深度卷积网络，通过每层若干个卷积核的变换，我们无法知道每个卷积核关注的是什么，变换后的特征是什么样子。通过反卷积的还原，可以对这些问题有个清晰的可视化，以各层得到的特征图作为输入，进行反卷积，得到反卷积结果，用以验证显示各
转载
2023-08-29 21:02:26
202阅读
5 卷积神经网络卷积神经网络CNN，是一种具有局部连接、权重共享等特性的深层前馈神经网络。 目前，卷积神经网络一般是由卷积层、汇聚层和全连接层交叉堆叠而成的前馈神经网络，使用反向传播算法进行训练。 卷积神经网络结构上的局部连接、权重共享和汇聚的特性，使得卷积神经网络具有一定程度上的平移、缩放和旋转不变性。和前馈神经网络相比，卷积神经网络的参数更少。 卷积神经网络主要使用在图像分类、人脸识别、物体识
转载
2023-08-20 20:25:40
104阅读
卷积层（convolutional layer）1.卷积核（convolutional kernel）卷积层的功能是对输入数据进行特征提取，其内部包含多个卷积核，组成卷积核的每个元素都对应一个权重系数和一个偏差量（bias vector），类似于一个前馈神经网络的神经元（neuron）。卷积层内每个神经元都与前一层中位置接近的区域的多个神经元相连，区域的大小取决于卷积核的大小，在文献中被称为“感受
转载
2023-08-21 11:15:28
153阅读
深度学习发展已久，我们经常听到别人说神经网络，如果做计算机视觉，我们也会经常听到别人说卷积神经网络。今天要分享这篇文章带我们一起了解什么是卷积，什么是卷积神经网络，卷积神经网络都有哪些组成部分。让我们走进这篇文章，一起来了解一下吧！
原创
2023-01-09 15:14:00
540阅读
一、BN算法概念传统的神经网络，只是在将样本x输入到输入层之前对x进行标准化处理，以降低样本间的差异性。BN是在此基础上，不仅仅只对输入层的输入数据x进行标准化，还对每个隐藏层的输入进行标准化。（那为什么需要对每个隐藏层的输入进行标准化呢？或者说这样做有什么好处呢？这就牵涉到一个Covariate Shift问题）二、Covariate Shift问题Convariate shift是BN论文作者
