对抗生成神经网络对抗性神经网络

转载

梦断蓝桥魂 2024-02-19 10:47:21

文章标签 对抗生成神经网络生成对抗网络数据生成模型生成器 文章分类 神经网络人工智能

GANs生成对抗性神经网络

Generative Adversarial Networks

GAN是什么?

生成对抗网络(GANs)是当今计算机科学中最有趣的概念之一。
两个模型通过对抗性过程同时训练。
生成器(“艺术家”)学会创建看起来真实的图像，而鉴别器(“艺术评论家”)学会区分真实图像和赝品。

对抗生成神经网络对抗性神经网络_数据

在训练过程中，生成器逐渐变得更擅长创建看起来真实的图像，而鉴别器则变得更擅长区分它们。
当鉴别器无法分辨真伪图像时，该过程达到平衡。

原理

这是一张关于GAN的流程图

对抗生成神经网络对抗性神经网络_生成器_02

GAN主要的灵感来源是零和游戏在博弈论思想,应用于深学习神经网络,是通过生成网络G(发电机)和判别D(鉴频器)网络游戏不断,从而使G学习数据分布,如果用在图像生成训练完成后,G可以从一个随机数生成逼真的图像。
G和D的主要功能是:

G是一个生成网络，它接收一个随机噪声z(随机数)，通过噪声生成图像。
D是一个判断图像是否“真实”的网络。它的输入参数是x, x代表一张图片，输出D (x)代表x是一张真实图片的概率。如果是1，代表100%真实的图像，如果是0，代表不可能的图像。

在训练过程中，生成网络G的目标是生成尽可能多的真实图像来欺骗网络D，而D的目标是试图将G生成的假图像与真实图像区分开来。这样，G和D构成一个动态的“博弈过程”，最终的均衡点为纳什均衡点。

体系结构

通过对目标的优化，可以调整概率生成模型的参数，使概率分布与实际数据分布尽可能接近。

那么，如何定义适当的优化目标或损失呢?
在传统的生成模型中，一般采用数据的似然作为优化目标，而GAN创新性地使用了另一个优化目标。

首先，引入判别模型(常用模型包括支持向量机和多层神经网络)。
其次，其优化过程是在生成模型和判别模型之间找到纳什均衡。

GAN建立的学习框架实际上是生成模型和判别模型之间的模拟博弈。
生成模型的目的是尽可能多地模拟、建模和学习真实数据的分布规律。
判别模型是判断一个输入数据是来自真实的数据分布还是生成的模型。
通过这两个内部模型之间的持续竞争，提高了生成和区分这两个模型的能力。

当一个模型具有很强的区分能力时。如果生成的模型数据仍然存在混淆，不能正确判断，那么我们认为生成的模型实际上已经了解了真实数据的分布情况。

GAN特性

特点:

low与传统模式相比，有两种不同的网络，而不是单一的网络，采用的是对抗训练方法和训练方式。
更新信息中的低GAN梯度G来自判别式D，而不是来自样本数据。

优势:

low GAN是一个涌现模型，相对于其他生成模型(玻尔兹曼机和GSNs)，它只通过反向传播，不需要复杂的马尔可夫链。
与其它所有机型相比，GAN能生产出更清晰、真实的样品
low GAN是一种无监督学习训练，可广泛应用于半监督学习和无监督学习领域。
与变分自编码器相比，GANs不引入任何确定性偏差，变分方法引入确定性偏差，因为它们优化了对数似然的下界而不是似然本身，这似乎导致VAEs生成的实例比GANs更加模糊。
与VAE、GANs的变分下界相比较低，如果判别器训练良好，则生成器可以学习完善训练样本分布。换句话说，GANs是逐渐一致的，但是VAE是有偏见的。
GAN——应用于一些场景,比如图片风格转换、超分辨率,图像完成、噪声去除,避免了损失函数设计的困难,只要有一个基准,直接鉴别器,其余的对抗训练。

缺点:

训练GAN需要达到Nash均衡，有时可以通过梯度下降法实现，有时则不能。我们还没有找到一个很好的方法来达到纳什均衡，所以与VAE或PixelRNN相比，GAN的训练是不稳定的，但我认为在实践中它比训练玻尔兹曼机更稳定。
GAN不适用于处理离散数据，如文本。
GAN存在训练不稳定、梯度消失和模态崩溃等问题。

常见问题

1）为什么GAN中的优化器不经常使用SGD

SGD易动摇，易使GAN训练不稳定。
GAN的目的是在高维非凸参数空间中寻找纳什均衡点。

GAN的纳什均衡点是鞍点，而SGD只会找到局部最小值，因为SGD解决了寻找最小值的问题，而GAN是一个博弈问题。

2）为什么GAN不适合处理文本数据

文本数据是离散的图像数据相比,因为文本,通常需要地图一个词作为一个高维向量,最后预测输出是一个热向量,假设softmax输出(0.2,0.3,0.1,0.2,0.15,0.05)就变成了onehot, 1, 0, 0, 0, 0(0),如果将softmax输出(0.2,0.25,0.2,0.1,0.15,0.1),一个仍然是热(0,1,0,0,0,0)。
因此，对于生成器，G输出不同的结果，而D给出相同的判别结果，不能很好地将梯度更新信息传递给G，因此D最终输出的判别是没有意义的。

此外，GAN的损失函数为JS散度，不适合测量不想相交的分布之间的距离。

3） GAN的一些技能培训

使用tanh begin将输入规范化为(- 1,1)，最后一级激活函数(异常)
使用wassertein GAN的loss函数，
如果你有标签数据，尝试使用标签。有人建议使用倒装标签，并使用标签平滑，单侧标签平滑或双侧标签平滑
使用小型批处理范数，如果不使用批处理范数，可以使用实例范数或权重范数
避免使用RELU和池化层来降低稀疏梯度的可能性，可以使用leakrelu激活函数
优化器尽可能选择ADAM，学习速度不应该太大。初始的1e-4可以参考。此外，随着培训的进行，学习率可以不断降低。
在D的网络层中加入高斯噪声相当于一种正则化

4）模型崩溃原因

一般来说，GAN在训练中并不稳定，效果也很差。
然而，即使延长培训时间，也不能很好地改善。

具体原因可以解释如下:
是针对甘用的训练方法，G梯度更新自D，生成的G很好，所以D对我说什么。
具体来说，G将生成一个样本，并将其交给D进行评估。
D将输出生成的假样本为真样本的概率(0-1)，这相当于告诉G生成的样本有多真实。
G会根据这个反馈改进自身，提高D输出的概率值。
但如果G生成样本可能不是真的,但是D给予正确的评价,或者是G的结果生成的一些特征的识别D,然后G输出会认为我是对的,所以我所以输出D肯定也会给一个高评价,G实际上不是生成的,但他们是两个自我欺骗,导致最终的结果缺少一些信息,特征。