摘要：特征匹配改变了生成器的损失函数，以最小化真实图像的特征与生成的图像之间的统计差异。我们建议读者检查上使用的损失函数和相应的性能，并通过实验验证来设置。相反，我们可能会将注意力转向寻找在生成器性能不佳时不具有接近零梯度的损失函数。
前 言
GAN模型相比较于其他网络一直受困于三个问题的掣肘：
1. 不收敛；模型训练不稳定，收敛的慢，甚至不收敛；
2. mode collapse; 生成器产生的结果模式较为单一；
3. 训练缓慢；出现这个原因大多是发生了梯度消失的问题；
本文主要以下几个方面入手，聚焦于解决以上三个问题的一些技巧：
改变损失函数，更换更好的优化目标
在损失函数中增加额外的惩罚机制或者正则手段
避免过拟合
更好的优化模型
使用监督学习
01、特征匹配
生成器试图生成较好的图像来欺骗鉴别器。 当两个网络不断对抗时，“较佳”图像会不断变化。 然而，优化可能变得过于贪婪，并使其成为永无止境的猫捉老鼠游戏。 这是模型未收敛且模式崩溃的情景之一。
特征匹配改变了生成器的损失函数，以最小化真实图像的特征与生成的图像之间的统计差异。 通常，我们测量其特征向量均值之间的L2距离。因此，特征匹配将目标从零和博弈扩展到真实图像中的匹配特征。 下面是特征匹配新的目标函数：
其中$f(x)$是一个从判别器D中提取出来的特征向量，如下图所示：
训练过程中，每个batch计算实际图像特征的平均值，每个batch都会有波动，可以减轻mode collapse，特征匹配它引入了随机性，使得鉴别器更难以过拟合。
当GAN的训练不稳定时，使用特征匹配是很有效的。
02、减小判别器的batch
出现mode collapse时，生成的图像看起来都差不多，为了缓解这个问题，我们将不同batch的实际图像和生成的图像分别送入判别器，并计算图像x与同一批次图像的相似度
。 我们在鉴别器的一个密集层中附加相似度，以分类该图像是真实的还是生成的。
如果出现了mode collapse，则生成的图像的相似性增加。 如果模式崩溃，则鉴别器可以使用这个值来检测出生成的图像不够好进而给生成器更多的惩罚。
图像
与同一批次中的其他图像之间的相似度
由变换矩阵T计算。
以下是公式总览：
引自paper：Improved Techniques for Training GANs
Minibatch的判别方法能够非常快速地生成视觉上较好的样本，并且在这方面它比特征匹配更好用。
03、标签平滑
深度网络可能会发生过拟合。 例如，它使用很少的特征来对对象进行分类。 为了缓解这个问题，深度学习使用正则话和dropout来避免过拟合。
在GAN中，如果鉴别器依赖于一小组特征来检测真实图像，则生成器可以仅生成这些特征以仅利用鉴别器。 优化可能变得过于贪婪并且不会产生长期效益。 在GAN中，过拟合受到严重伤害。 为了避免这个问题，当任何真实图像的预测超过0.9（D（实际图像）> 0.9）时，我们会对鉴别器进行惩罚。 这是通过将目标标签值设置为0.9而不是1.0来完成的。 这是伪代码：
p = tf.placeholder(tf.float32, shape=[None, 10])
# Use 0.9 instead of 1.0.
feed_dict = { p: [[0, 0, 0, 0.9, 0, 0, 0, 0, 0, 0]] # Image with label "3"}
# logits_real_image is the logits calculated by
# the discriminator for real images.
d_real_loss = tf.nn.sigmoid_cross_entropy_with_logits(
labels=p, logits=logits_real_image)
04、Historical averaging
此方法中，旨在对过去训练留下的t个参数求平均，以对当前模型的参数做正则。
对于使用非凸目标函数的GAN来说，历史平均可以使模型绕平衡点停止并充当阻尼力以收敛模型。（有点类似二阶优化方法）
05、使用标签
许多数据集都带有样本对象类型的标签。 训练GAN已经很难了，因此，指导GAN训练的任何额外帮助都可以大大提高性能。 将标签添加为潜在空间z的一部分有助于GAN训练。 以下是CGAN中用于利用样本中标签的数据流。
06、损失函数
研究员们提出了很多的损失函数，见下图：
我们决定不在本文中详细介绍这些损失函数，详细的解释可以去参考相应论文。
以下是某些数据集中的一些FID分数（衡量图像质量，值越小越好）。 这是一个参考点，但需要注意的是，对于哪些损失函数表现较佳还为时尚早。 实际上，目前还没有单一的损失函数在所有不同数据集中表现较佳，所以，做实验的时候不妨多试几个损失函数，不要看网上传什么损失函数好就用哪个。
（MM GAN是原始论文中的GAN成本函数。NS GAN是解决同一篇论文中消失的渐变的替代损失函数。）
但是想训练好GAN，仍需要小心的去拟合和调参，在随意的更换损失函数之前，不妨先耐心地调调参。
07、一些小技巧
将图像像素值缩放在-1和1之间。使用tanh作为生成器的输出层
用高斯分布实验取样z
BN通常可以稳定训练
使用PixelShuffle和转置卷积进行上采样
避免较大化池用于下采样，使用带步长的卷积
Adam优化器通常比其他方法更好（在GAN中）
在将图像输入鉴别器之前，将噪声添加到实际图像和生成的图像中
GAN模型的动态尚未得到很好的理解。 所以一些提示只是建议，里程可能会有所不同。 例如，LSGAN报告称RMSProp在他们的实验中有更稳定的训练，所以，调参很重要。
08、Virtual batch normalization (VBN)
BN成为许多深度网络设计中的必备项。 BN的均值和方差来自当前的小批量。但是，它会在样本之间创建依赖关系，生成的图像不是彼此独立的。
下图的图像是训练失败的图像，也反映了在生成的图像显示同batch中的颜色色调相似。
最初，我们从随机分布中抽样z，为我们提供独立样本。 但是，BN产生的偏差超过了z的随机性。
虚拟批量标准化（VBN）在训练之前对参考批次进行采样。 在前向传递中，我们可以预先选择参考batch来计算BN的归一化参数（μ和σ）。 但是，由于我们在整个训练中使用相同的batch，因此有可能使用此参考batch发生过拟合。 为了缓解这种情况，我们可以将引用批处理与当前批处理相结合，以计算规范化参数。
09、随机种子（Random Seed）
用于初始化模型参数的随机种子影响GAN的性能。如下所示，测量GAN性能的FID分数在50次多带带运行（训练）中有所不同。 但是范围相对较小，可能仅在稍后的微调中完成。
10、Batch Normalization
DGCAN强烈建议将BN添加到网络设计中。 BN的使用也成为许多深度网络模型的一般实践。 但是，会有例外。 下图演示了BN对不同数据集的影响。 y轴是FID得分越低越好。 正如WGAN-GP论文所建议的那样，BN较好不使用。 我们建议读者检查BN上使用的损失函数和相应的FID性能，并通过实验验证来设置。
11、多重GAN
模式崩溃可能并不全是坏事。 当模式崩溃时，图像的某些区域质量通常会提高。 实际上，我们可能会为每种模式收集较佳模型，并使用它们来重建不同的图像模式（玄学调参）。
12、平衡生成器和判别器
判别器和生成器总是处博弈中以相互削弱。模式崩溃和梯度减小通常被解释为判别器和生成器之间的不平衡。我们可以通过关注平衡生成器和判别器之间的损耗来改进GAN。不幸的是，解决方案似乎难以捉摸。我们可以保持判别器和生成器上的梯度下降迭代次数之间的静态比率。即使这看起来很吸引人，但很多人怀疑它的好处。通常，我们保持一对一的比例。但是一些研究人员还测试了每个生成器更新的5个判别器迭代的比率。还提出了使用动态力学平衡两个网络。但直到最近几年，我们才对它有所了解。
另一方面，一些研究人员挑战平衡这些网络的可行性和可取性。一个训练有素的判别器无论如何都会给生成器提供高质量的反馈。而且，训练生成器总是赶上判别器并不容易。相反，我们可能会将注意力转向寻找在生成器性能不佳时不具有接近零梯度的损失函数。
13、生成器、判别器的容量
判别器的模型通常比生成器更复杂（更多的权重和更多的层），良好的判别器提供高质量的信息。 在许多GAN应用中，我们可能遇到瓶颈，增加生成器容量（增加生成器的层数）显示没有质量改进。 在我们确定瓶颈并解决它们之前，增加生成器容量似乎并不是调参的优先考虑项。
14、进一步阅读
本文中，我们没有对某一具体方向做深入的探讨，只是给出了一个大概的方向，GAN的训练仍是一个遗留问题，需要诸位亲自探究。
声明：文章收集于网络，如有侵权，请联系小编及时处理，谢谢！
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4858.html
摘要：判别器胜利的条件则是很好地将真实图像自编码，以及很差地辨识生成的图像。 先看一张图：下图左右两端的两栏是真实的图像，其余的是计算机生成的。过渡自然，效果惊人。这是谷歌本周在 arXiv 发表的论文《BEGAN：边界均衡生成对抗网络》得到的结果。这项工作针对 GAN 训练难、控制生成样本多样性难、平衡鉴别器和生成器收敛难等问题，提出了改善。尤其值得注意的，是作者使用了很简单的结构，经过常规训练...
摘要：直接把应用到领域主要是生成序列，有两方面的问题最开始是设计用于生成连续数据，但是自然语言处理中我们要用来生成离散的序列。如图，针对第一个问题，首先是将的输出作为，然后用来训练。 我来答一答自然语言处理方面GAN的应用。直接把GAN应用到NLP领域（主要是生成序列），有两方面的问题：1. GAN最开始是设计用于生成连续数据，但是自然语言处理中我们要用来生成离散tokens的序列。因为生成器(G...
摘要：于是，中将做了拆解，认为中生成模型应该包含的先验分成两种不能再做压缩的和可解释地有隐含意义的一组隐变量，简写为。利用这种更加细致的隐变量建模控制，可以说将的发展又推动了一步。 摘要在过去一两年中，生成式模型 Generative Adversarial Networks（GAN）的新兴为生成式任务带来了不小的进展。尽管 GAN 在被提出时存在训练不稳定等诸多问题，但后来的研究者们分别从模型、...
摘要：引用格式王坤峰，苟超，段艳杰，林懿伦，郑心湖，王飞跃生成对抗网络的研究与展望自动化学报，论文作者王坤峰，苟超，段艳杰，林懿伦，郑心湖，王飞跃摘要生成式对抗网络目前已经成为人工智能学界一个热门的研究方向。本文概括了的研究进展并进行展望。 3月27日的新智元 2017 年技术峰会上，王飞跃教授作为特邀嘉宾将参加本次峰会的 Panel 环节，就如何看待中国 AI学术界论文数量多，但大师级人物少的现...
摘要：但年在机器学习的较高级大会上，苹果团队的负责人宣布，公司已经允许自己的研发人员对外公布论文成果。苹果第一篇论文一经投放，便在年月日，斩获较佳论文。这项技术由的和开发，使用了生成对抗网络的机器学习方法。 GANs「对抗生成网络之父」Ian Goodfellow 在 ICCV 2017 上的 tutorial 演讲是聊他的代表作生成对抗网络（GAN/Generative Adversarial ...
阅读 1430·2021-11-22 12:09
阅读 1708·2021-11-16 11:45
阅读 3474·2021-09-09 09:33
阅读 1287·2019-08-30 13:22
阅读 1940·2019-08-29 17:00
阅读 2494·2019-08-29 16:28
阅读 2801·2019-08-26 13:51
阅读 1057·2019-08-26 13:25
