好生学习！数百篇GAN论文已下载好！搭配一份生成对抗网络最新综述！
原创
©著作权归作者所有：来自51CTO博客作者公号机器学习与AI生成创作的原创作品，请联系作者获取转载授权，否则将追究法律责任
前几天，一位小伙伴给我推荐了一篇最新的GAN论文综述：
哈哈，其实这个综述，之前大概在arxiv上似乎瞄到过一下，想着有时间再下载看看，后面就忘了，2333。今天也做个非常简单的记录，并安利给有兴趣的你。
注：其实去年年底，我在知乎的一个问题“ 2019年，计算机视觉领域，你推荐哪些综述性的文章？”下的一个回答里，推荐了一个GAN的综述小论文，并做了简单的总结。这个回答也成为了我这个知乎小透明收获赞数最多的回答。
那篇综述论文是2019年年底在arxiv上看到的，主要从 网络结构、条件信息、归一化和约束、损失函数、图像转换、评估准则 六个方面做了简洁的梳理和回顾。后面也整理成文，取了一个很中二的名字：GAN整整6年了！是时候要来捋捋了！
首先来看看文章开头提到的这个综述的目录，掐头去尾，正如题目所提到，主要是从三个方面展开： 算法，理论，应用。 三大部分下，又设置了多个小目录，如下图所示： 
看目录可知，作者试图、尽可能全方位覆盖GAN的各个部分。但是，实际上论文仅仅有28页，而除去8页引用里400篇论文所占的位置，正文内容大概只有17页左右。想通过17页去论述详细这么多方面的内容是不可能的，能做到“雨露均沾”、点到为止已实属不易，实际大部分都是一带而过。 但是写的简洁，好处也是显然的：对于读者学习GAN，既提供了局部的方向，又给出了整体的把握。目录上看： 1. 首先，大致介绍了一下生成模型算法、GAN的对抗思路； 2. 接着，算法部分：（1） 推导了原始GAN的公式、分析其问题；（2） 提到了几个代表性的GAN变体；（3） 提到了GAN的训练方法；（4） 提到了GAN的评估准则；（5） 提到了GAN和其他学习任务的联系，如迁移学习等。 3. 紧随，理论部分：（1） 介绍最大似然估计；（2） 模式坍塌的大概分析；（3） 提到其他一些理论争议、焦点，比如GAN是不是真正地学习到数据分布？ 4. 再者，应用部分：（1） 图像处理：主要提到了超分辨率、图像合成与编辑、纹理合成、目标检测、视频领域等方面的应用；（2） 序列数据：NLP和语音等。（3） 医学领域。（实际上，医学领域的应用，个人感觉已经涵盖在上面图像、序列离散的分类里了，不知道作者单独这么一列并排，在逻辑上显得有点奇怪？如果按照应用专业领域分的话，其实可以分为比如遥感领域、自动驾驶、艺术娱乐等等） 5. 下来，作者总结了关于GAN的几个开放性、待解决、仍值得进一步研究的问题： （1） GAN用于离散数据（discrete data）？GAN依赖于对于生成样本的参数而言是可微的，GAN无法直接产生离散数据。解决此问题非常重要，因为它可以释放GAN用于NLP等领域的潜力。Goodfellow [103]提出了三种解决这个问题的方法：使用Gumbel-softmax [448]，[449]或concrete distribution [450]；利用REINFORCE算法[451]；训练生成器以采样可转换为离散值的连续值（例如，直接对词嵌入进行采样）。还有其他方法可以朝这个研究方向发展。 （2） 新的训练衡量散度（New Divergences）：我们知道，原始GAN本质上采用的是JS或者KL散度来作为分布衡量的手段。而新的类似如：用于训练GAN的新的Integral Probability Metrics（IPM）系列，例如Fisher GAN [455]，[456]，均值和协方差特征匹配mean and covariance feature matching GAN（McGan）[457]和Sobolev GAN [458]。还有其他有趣的手段吗？这值得进一步研究。 （3） 估计不确定性（Estimation uncertainty）：一般而言，随着我们拥有更多数据，不确定性估计会减少。GAN不会提供生成训练数据的分布，而只能生成来自与训练数据相同分布的样本。尽管可以使用GAN生成数据，但如何衡量生成器的不确定性呢？这是另一个有趣的问题。 （4） 理论：GAN理论根基过于薄弱。有用的理论能够必将促进模型的类别选择、容量和架构等。 （5） 其他：GAN还存在其他重要的研究问题，例如评估准则和模式崩溃。关于完善GAN的理论根基，相信是较难啃的。也许大多数人对GAN的应用更感兴趣些。但训练GAN的过程是较为尴尬的：当前，很多时候都是经验主导，以调为主，不得不戏谑：炼丹之说，实至名归。
本文所提到的GAN最新综述，包含了460篇相关论文。最后，发送一波懒人福利：通过在arxiv网站的爬取，已经自动下载打包好其中350+篇，可通过扫码关注公众号“学点诗歌和AI知识”，后台回复“ GAN起来 ”获取！！！ 如下所示，还在犹豫什么，赶紧去对照着综述论文学习起来~~~
（咦？不是460多篇吗？？emmmm，漏的一百多篇嘛，arxiv上没提供，我也懒得搞了。哈哈，这350多篇也够的看了！
