自编码（Auto-encoders）1、什么是自编码自编码神经网络是一种无监督的学习算法，可学到输入数据的高效表示。输入数据的这一高效表示称为编码（codings），其维度一般小于输入数据，使得自编码用于降维；自编码器还可作为强大的特征检测器（feature detectors），应用于深度神经网络的预训练。此外，自编码器还可以随机生成与训练数据类似的数据，这被称为生成模型（generative
转载
2024-01-11 23:56:05
71阅读
1.算法描述最近在做AutoEncoder的一些探索，看到2016年的一篇论文，虽然不是最新的，但是思路和方法值得学习。论文有感于t-SNE算法的t-分布，先假设初始化K个聚类中心，然后数据距离中心的距离满足t-分布，可以用下面的公式表示: 其中 i表示第i样本,j表示第j个聚类中心, z表示原始特征分布经过Encoder之后的表征空间。$q_{ij}$可以解释为样本i属于聚类j的概率，
转载
2023-10-07 22:02:33
94阅读
参考：https://github.com/apachecn/vt-cs4624-pyml-zh/blob/master/docs/22.md
https://github.com/apachecn/vt-cs4624-pyml-zh/blob/master/docs/23.md由于之前有了解CNN，该文章将跳过大部分细节，仅供本人记录学习过程用卷积神经网络Convolutional N
转载
2023-11-03 08:52:55
112阅读
深度学习-自编码和全连接神经网络自编码简介TensorFlow实现自编码全连接神经网络TensorFlow实现全连接神经网络 自编码简介深度学习在早期被认为是一种无监督的特征学习（Unsupervised Feature Learning），模仿了人脑对特征逐层抽象提取的过程，这其中有两点很重要：一是无监督学习，即不需要标注数据就可以对数据进行一定程度的学习，这种学习是对数据内容组织形式的学习，
卷积神经网络自编码器实现与结果分析（1）实现框架：Keras （2）数据集：Mnist 手写数字识别 （3）关键代码：环境配置使用conda，新建一个keras 和tensorflow的环境在win cmd 终端中建立一个新的环境 新建用pip安装三个包C:\Users\TJ619\Downloads\autoencoder-master>conda create -n keras_only
转载
2023-11-04 12:03:02
132阅读
Part one视频学习心得及问题总结1 深度学习的数学基础1.1 自编码器变种正则自编码器
使提取的特征表达符合某种性质稀疏自编码器
提取稀疏特征表达去噪自编码器
提取鲁棒特征表达，能够对被破坏的原始数据编码、解码，还能恢复真正的原始数据变分自编码器
基于隐层特征表达空间，通过解码层，生成样本
应用：数据生成、缺失数据填补、图像超分辨率1.2 机器学习三部分：模型、策略、算法2 卷积神经网络深
转载
2023-10-13 00:27:34
153阅读
one-hot向量与word2vec one-hot向量1.1 one-hot编码 什么是one-hot编码？one-hot编码，又称独热编码、一位有效编码。其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。举个例子，假设我们有四个样本（行），每个样本有三个特征（列），如图： 上图中我们已经对每个特征进行了普通的数字编码：我们的
转载
2024-04-16 11:27:06
96阅读
前言看完神经网络及BP算法介绍后，这里做一个小实验，内容是来自斯坦福UFLDL教程，实现图像的压缩表示，模型是用神经网络模型，训练方法是BP后向传播算法。理论
在有监督学习中，训练样本是具有标签的，一般神经网络是有监督的学习方法。我们这里要讲的是自编码神经网络，这是一种无监督的学习方法，它是让输出值等于自身来实现的。
转载
2024-01-19 23:49:05
74阅读
自动编码器，也就是自编码神经网络，是神经网络的一种采用无监督学习的方式对高维数据进行高效的特征提取和特征表示，在学术界和工业界都大放异彩 我们之前看的都是监督学习但是生活中的大量的数据都是没有label的现在来看非监督学习 机器学习领域的三大方向强化学习（樱桃）、监督学习（蛋糕的外皮）、非监督学习 为什么需要非监督学习？降维利用大量
转载
2023-06-06 20:35:22
109阅读
主要参考资料是Stanford 教授 Andrew Ng 的 Deep Learning 教程讲义：http://deeplearning.stanford.edu/wiki/index.php/UFLDL_Tutorial。这个讲义已经有人翻译了（赞一个），可以参见邓侃。另外，博客园里有一个前辈关于讲义中练习的一系列文章，在具体实现时可以参照下：Sparse Autoencoder
转载
2023-10-30 23:08:01
37阅读
一、自编码网络自编码，又称自编码器(autoencoder)，也是神经网络的一种，经过训练后能尝试将输入复制到输出。自编码器内部有隐藏层，通过编码和解码来还原输入数据。该网络可以看作由两部分组成：一个函数h=f(x)表示编码器和一个解码器r=g(h)。自编码器是一个3层或大于3层的神经网络，它的作用是将输入样本压缩到隐藏层，然后解压，在输出端还原输入样本。最终输出层神经元数量等于输入层神经元数量。
转载
2024-01-21 00:45:26
100阅读
目录1.写在前面2.压缩与解压3.编码器 Encoder4.解码器 Decoder1.写在前面 今天我们会来聊聊用神经网络如何进行非监督形式的学习. 也就是 autoencoder, 自编码. 自编码 autoencoder 是一种什么码呢. 他是不是 条形码? 二维码?
转载
2023-12-07 07:00:34
68阅读
栈式自编码神经网络（Stacked Autoencoder, SA），是对自编码网络的一种使用方法，是一个由多层训练好的自编码器组成的神经网络。由于网络中的每一层都是单独训练而来，相当于都初始化了一个合理的数值。所以，这样的网络会更容易训练，并且有更快的收敛性及更高的准确度。 栈式自编码常常被用于预训练（初始化）深度神经网络之前的权重预训练步骤。
转载
2023-11-23 19:47:04
64阅读
自编码算法是一种非监督学习，可以理解为通过神经网络尝试学习一个函数使得输出等于输入  
转载
2023-11-28 01:02:16
41阅读
1、自编码的定义 自编码器是一种数据的压缩算法，属于无监督学习，以自身X作为输出值，但输出值X‘ 和自身X之间还是有一些差异的。自编码器也是一种有损压缩，可以通过使得损失函数最小，来实现X’ 近似于X的值。简单的自编码器是一种三层的神经网络模型，包含数据输入层、隐藏层、输出重构层，同时也是一种无监督学习模型。从输入层到隐层称为编码过程，从隐层到输出层称为解码过程。自编码其就相当于自己生成标签，而
转载
2023-12-17 17:12:14
74阅读
原翻译版本有些不易理解的地方，用自己的语言写了一次。 有监督的神经网络需要我们的数据是有标注（Labeled）的，然而神经网络并不止限于处理有标注的数据，同时还能处理无标注的数据，形如：$${x^{(1)},x^{(2)},x^{(3)},...} 其中 \ x^{(i)}\in{\mathbb{R}^n}$$  
转载
2023-12-28 14:24:55
148阅读
体验一下神经网络# -*- coding: utf-8 -*-
"""
Created on Fri Jul 7 15:37:41 2017
@author: bryan
"""
import numpy as np
from matplotlib import pyplot as plt
import sklearn
np.random.seed(0)
X, y = sklearn.da
转载
2017-07-07 16:46:02
79阅读
自编码器(autoencoder)属于嵌入与表征学习的一种。作为深度神经网络的一类方法，它主要用于数据降维、压缩以及获取低维度表征等。自编码器与传统机器学习中的主成分分析(PCA)、因子分析(FA)等降维方法作用相同，但与之相比更为灵活，效果往往更好。一：基本原理对于自编码器，其结构可分为编码器(encoder)与解码器(decoder)两部分。encoder部分，可以是卷积、池化、全连接等层组成
转载
2023-10-17 13:55:05
212阅读
自动编码器（Auto Encode）什么是自动编码器1.1 Auto Encoder1.2 Deep Auto Encoder（DAE）1.3 利用keras实现DAE[^1]1.4 取DAE隐层向量[^1]1.5 参考文献其他类型的AE2.1 去噪自动编码器（denoising auto encode）2.2 堆叠去噪自动编码器（Stacked Denoising Auto Encoder，S
转载
2023-08-08 11:05:39
508阅读
[toc] 标题：31. 【神经网络】基于自编码器的神经网络 在介绍神经网络之前，我想先简单介绍一下人工智能和机器学习的概念。人工智能是计算机程序和人类智能的集成，通过利用计算机处理数据、学习和决策，实现自主思考和行动。机器学习是人工智能的一个分支，通过对大量数据进行学习和分析，让计算机自动从数据中
原创
2023-06-24 06:51:49
77阅读
