视频中的特征简介在讲具体实现之前我们先说一下关于视频样本特征的提取： 视频的主要特征包括：时间空间特征和运动特征 时间特征就是视频中帧随着时间的变化的特征而空间特征就是视频中每一帧的RGB特征，也就是我们做2D图片分类时提取的特征。对于时空特征我们可以采用3D卷积直接提取，或者采用LSTM+2D卷积提取（也就是我们本次提到的方法），因为LSTM可以提取时间特征而2D卷积可以提取RGB的空间特征，而
转载
2023-11-13 06:36:41
94阅读
Deep Learning的常用模型或者方法1、AutoEncoder自动编码器Deep Learning最简单的一种方法是利用人工神经网络的特点，人工神经网络（ANN）本身就是具有层次结构的系统，如果给定一个神经网络，我们假设其输出与输入是相同的，然后训练调整其参数，得到每一层中的权重。自然地，我们就得到了输入I的几种不同表示（每一层代表一种表示），这些表示就是特征。自动编码器就是一
转载
2023-08-11 14:07:31
80阅读
前置知识：自编码器入门前段时间在改论文的过程中，审稿人给出了关于使用对抗自编码器算法的建议——2020.2以上算是序自编码器（autoencoder）是一种无监督学习神经网络基本定义本质上来说，自编码器是一种所谓”生成模型“，也就是根据给定的数据集去学习数据的分布函数，然后通过调整神经网络的参数使输出和原数据集尽量一致。一般的，自编码器的原型是一个单隐层的神经网络 从输入层到隐层的过程可以理解为一
转载
2023-08-14 16:23:26
208阅读
目录自编码器与变分自编码器自编码器变分自编码器变分自编码器原理变分自编码器的损失函数图变分自编码器定义回顾图变分自编码器EncoderDecoder图变分自编码器的损失函数图对抗生成网络对抗生成网络图对抗生成网络 GraphGAN 自编码器与变分自编码器自编码器自编码器即 Auto Encoders，简称 AE，假设存在一个神经网络： 容易发现，该神经网络的输入与输出维度相同，隐藏层的张量维度远
转载
2023-10-15 08:00:40
162阅读
一、 AE(AutoEncoder)参考AutoEncoder1.1 自编码器简单模型介绍自编码器可以理解为一个试图去 还原其原始输入的系统。自动编码模型主要由编码器和解码器组成，其主要目的是将输入x转换成中间变量y，然后再将中间变量y转换成x’，然后对比输入和输出，使得他们两个无限接近。1.2 神经网络自编码器模型在深度学习中，自动编码器是一种 无监督 的 神经网络 模型，它可以学习到输入数据的
转载
2023-11-01 23:51:30
1391阅读
卷积神经网络在几个主流的神经网络开源架构上面都有实现，我这里不是想实现一个自己的架构，主要是通过分析一个最简单的卷积神经网络实现代码，来达到进一步的加深理解卷积神经网络的目的．笔者在github上找到了一个十分简单的卷积神经网络python的代码实现：具体的怎么使用这里就不用说了，这里都有介绍，我只是分析一下这个代码的实现过程并解析代码，梳理一下神经网络是怎么使用的和构造原理．一般的神经网络主要包
转载
2023-07-20 14:41:54
83阅读
require 'nn'; #在torch中使用nn包来构建神经网络
net = nn.Sequential() #是个容器，下面解释
net:add(nn.SpatialConvolution(1, 6, 5, 5)) -- 1 input image channel, 6 output channels, 5x5 convolution kernel
卷积运算：1个输入通道，6个输出通道，5
转载
2023-10-13 00:15:24
108阅读
自编码（Auto-encoders）1、什么是自编码自编码神经网络是一种无监督的学习算法，可学到输入数据的高效表示。输入数据的这一高效表示称为编码（codings），其维度一般小于输入数据，使得自编码用于降维；自编码器还可作为强大的特征检测器（feature detectors），应用于深度神经网络的预训练。此外，自编码器还可以随机生成与训练数据类似的数据，这被称为生成模型（generative
转载
2024-01-11 23:56:05
71阅读
机器翻译是目前NLP和deep learning结合的研究热点以及未来的研究发展方向，这篇文章转载介绍了基于RNN(recurrent neural network)的四种解码序列模型，模型背景介绍：1.基于RNN的序列化编码，hidden layer序列编码生成的编码向量是整个序列隐层编码进行求和平均的方式得到序列的编码向量，优点：该模型可以做的事情是主题分类、情感检测等等分类任务，通过在编码向
转载
2023-10-09 20:34:57
71阅读
本文会首先介绍神经网络机器翻译(Neural Machine Translation )技术的原理，再介绍如何使用 TensorFlow NMT 训练一个中英翻译引擎。 一、Encoder -- Decoder模型的原理Encoder-Decoder 模型是使用神经网络进行机器翻译的基本方法，一般也称作 Seq2Seq 模型 。原始的 N VS N RNN结构要求输入序列和输出序列等长，
转载
2023-10-11 22:25:22
49阅读
什么是自编码器（Autoencoder）自动编码器是一种数据的压缩算法，其中数据的压缩和解压缩函数是数据相关的、有损的、从样本中自动学习的。在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。压缩与解压 假设刚刚那个神经网络是这样, 对应上刚刚的图片, 可以看出图片其实是经过了压缩,再解压的这一道工序. 当压缩的时候, 原有的图
转载
2023-11-21 13:21:34
114阅读
引言 在深度学习十分火热的今天，不时会涌现出各种新型的人工神经网络，想要实时了解这些新型神经网络的架构还真是不容易。光是知道各式各样的神经网络模型缩写（如：DCIGN、BiLSTM、DCGAN……还有哪些？)，就已经让人招架不住了。因此，这里整理出一份清单来梳理所有这些架构。其中大部分是人工神经网络，也有一些完全不同的怪物。尽管所有这些架构都各不相同、功能独特，当我在画它们的节点图时……其中潜在的
转载
2023-11-18 14:56:44
380阅读
一.转换思想1.转换思想（化归、变换、转变...）思想：简单地说，是把一个事物变成另一个事物，比如将一个复杂问题变成等价一个简单问题、将一个商品变为等价的商品等。而在深度学习中的转换思想体现在模型上。 2.神经网络（1）从感知机到复杂的模型，无论怎样变换，本质都是模型，是数学表达式，是数据的映射变换，也是特征的转换。（2）神经网络的训练学习是指学习变换的参数，也就是转换的规律3.神经网络
转载
2023-09-25 17:12:29
103阅读
Seq2Seq 模型 Encoder-Decoder Attention 机制 Self-Attention 自注意力机制 Transformer摘文不一定和目录相关，但是取自该链接1. Seq2Seq 模型详解https://baijiahao.baidu.com/s?id=1650496167914890612&wfr=spider&for=pcSeq2Seq 是一种循环神经网
转载
2023-10-30 23:00:20
95阅读
在基于词语的语言模型中，我们使用了循环神经网络。它的输入是一段不定长的序列，输出却是定长的，例如一个词语。然而，很多问题的输出也是不定长的序列。以机器翻译为例，输入是可以是英语的一段话，输出可以是法语的一段话，输入和输出皆不定长，例如英语：They are watching.法语：Ils regardent.当输入输出都是不定长序列时，我们可以使用编码器—解码器（enc
转载
2024-01-22 15:49:12
105阅读
one-hot向量与word2vec one-hot向量1.1 one-hot编码 什么是one-hot编码？one-hot编码，又称独热编码、一位有效编码。其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。举个例子，假设我们有四个样本（行），每个样本有三个特征（列），如图： 上图中我们已经对每个特征进行了普通的数字编码：我们的
转载
2024-04-16 11:27:06
96阅读
分类：输入图片，得到相应的标签 定位：输入图片，输出相应框的信息：（x,y,w,h）对应的分别是图片的位置（左上角）以及框的大小 检测：在定位中，一般只有一个或一种对象，当在检测中可能会有多个或多种对象。 我们一般IoU（intersection of union，两目标交集占据两目标并集的百分比）来判断我们的定位的精确度，IoU越大，说明结果和目标越接近。 在定位中，采用滑动窗口（Slidi
转载
2023-11-14 03:08:51
90阅读
Attention是一种机制，旨在提高编码器-解码器RNN在机器翻译上的性能。Encoder-Decoder Model该模型由两个子模型组成：编码器和解码器。编码器：编码器负责逐步执行输入时间步长，并将整个序列编码为称为上下文向量的固定长度向量。解码器：解码器负责在从上下文向量中读取时逐步完成输出时间步长。我们提出了一种新颖的神经网络体系结构，该体系结构学习将可变长度序列编码为固定长度向量表示形
转载
2024-01-28 01:11:01
96阅读
1.基本功能
自编码器最大的特点是输入与输出的节点数是一致的，其功能并不是进行分类或者是回归预测，而是将原始数据转换为一种特殊的特征表示方式，在训练的过程中，依然采用反向传播算法进行参数优化，目标函数为使输出与输入之间的误差最小化。
基本功能如图，如图所示，普通神经网络是训练类别（或者离散值）与输入之间的映射关系，而Auto
转载
2023-07-12 11:52:09
0阅读
在上一篇神经网络代码实现流程中，加载数据返回了三组数据：训练集，测试集，验证集．加载数据后，需要对神经网络代码的类进行实例化。 以下讲解，神经网络代码类的实现： 在类中，首先，在Network类的构造函数中，由实例化时传入的参数定义了神经网络的层数，每层的神经元个数，并利用随机函数对每层的神经元权重以及偏置进行初始化。def __init__(self, sizes):
sel
转载
2023-12-17 07:31:08
46阅读
