资讯专栏INFORMATION COLUMN

深度学习之生成对抗网络(1)博弈学习实例

qieangel2013 / 909人阅读

摘要:深度学习之生成对抗网络博弈学习实例博弈学习实例在生成对抗网络,简称发明之前,变分自编码器被认为是理论完备,实现简单,使用神经网络训练起来很稳定,生成的图片逼近度也较高,但是人眼还是可以很轻易地分辨出真实图片与及其生成的图片。

深度学习之生成对抗网络(1)博弈学习实例


 在生成对抗网络(Generative Adversarial Network,简称GAN)发明之前,变分自编码器被认为是理论完备,实现简单,使用神经网络训练起来很稳定,生成的图片逼近度也较高,但是人眼还是可以很轻易地分辨出真实图片与及其生成的图片。

 2014年,Unibersit e ˊ /acute{e} eˊ de Montr e ˊ /acute{e} eˊal大学Yoshua Bengio(2019年图灵奖获得者)的学生Ian Goodfellow提出了生成对抗网络GAN[1],从而开辟了深度学习最炙手可热的研究方向之一。从2014年到2019年,GAN的研究稳步推进,研究捷报频传,最新的GAN算法在图片生成上的效果甚至达到了肉眼南边的程度,着实令人振奋。由于GAN的发明,Ian Goodfellow荣获GAN之父称号,并获得了2017年麻省理工科技评论办法的35 Innovators Under 35奖项。下图展示了从2014年到2018年,GAN模型取得的图片生成效果,可以看到不管是图片大小,还是图片逼真度,都有了巨大的提升。

GAN模型2014~2018年的图片生成效果


 接下来,我们将从生活中博弈学习的实例出发,一步步引出GAN算法的设计思想和模型结构。

[1] I. Goodfellow, J. Pouget-Abadie, M. Mirza, B. Xu, D. Warde-Farley, S. Ozair, A. Courville 和 Y. Bengio, “Generative Adversarial Nets,” 出处 Advances in Neural Information Processing Systems 27, Z. Ghahramani, M. Welling, C. Cortes, N. D. Lawrence 和 K. Q. Weinberger, 编辑, Curran Associates, Inc., 2014, pp. 2672-2680.


博弈学习实例

 我们用一个漫画家的成长轨迹来形象介绍生成对抗网络。考虑一对双胞胎兄弟,分别称为老二G和老大D,G学会如何绘制漫画,D学习如何鉴赏画作。还在娃娃时代的两兄弟,尚且只学会了如何使用画笔和纸张,G绘制了一张不明所以的画作,如下图(a)所示,由于此时D鉴别能力不高,觉得G的作品还行,但是任务主题不够鲜明。在D的指引和鼓励下,G开始尝试学习如何绘制主体轮廓和简单使用简单的色彩搭配。

 一年后,G提升了绘画的基本功,D也通过分析名作和初学者G的作品,初步掌握了鉴别作品的能力。此时D觉得G的作品任务主体有了,如下图(b)所示,但是色彩的运用还不够成熟。数年后,G的绘画基本功已经很扎实了,可以轻松绘制出主题鲜明、颜色搭配合适和逼真度较高的画作,如下图(c)所示,但是D同样通过观察G和其它名作的差别,提升了画作鉴别能力,觉得G的画作技艺已经趋于成熟,但是对生活的观察尚且不够,作品没有传达神情且部分细节不够完美。又过了数年,G的绘画能力达到了炉火纯青的地步,绘制的作品细节完美、风格迥异、惟妙惟肖,宛如大师级水准,如图(d)所示,几遍此时的D鉴别功力也相当出色,也很难将G和其他大师级的作品区分开来。

画家的成长轨迹示意图


 上述画家的成长历程其实是一个生活中普遍存在的学习过程,通过双方的博弈学习,相互提高,最终达到一个平衡点。GAN网络借鉴了博弈学习的思想,分别设立了两个子网络:负责生成样本的生成器G和负责鉴别真伪的鉴别器D。类比到画家的例子,生成器G就是老二,鉴别器D就是老大。鉴别器D通过观察真实的样本和生成器G产生的样本之间的区别,学会如何鉴别真假,其中真实的样本为真,生成器G产生的样本为假。而生成器G同样也在学习,它希望产生的样本能够获得鉴别器D的认可,即在鉴别器D中鉴别为真,因此生成器G通过优化自身的参数,尝试使自己产生的样本在鉴别器D中判别为真。生成器G和鉴别器D相互博弈,共同提升,直至达到平衡点。此时生成器G生成的样本非常逼真,使得鉴别器D真假难分。

 在原始的GAN论文中,Ian Goodfellow使用了另一个形象的比喻来介绍GAN模型:生成器网络G的功能就是产生一系列非常逼真的假钞试图欺骗鉴别器D,而鉴别器D通过学习真钞和生成器G生成的假钞来掌握钞票的鉴别方法。这两个网络在相互博弈的过程中间同步提升,直到生成器G产生的假钞非常大逼真,连鉴别器D都难辨真假。

 这种博弈学习的思想使得GAN的网络结构和训练过程与之前的网络模型略有不同,下面我们来详细介绍GAN网络结构和算法原理。

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/122154.html

相关文章

  • 王飞跃等:生成对抗网络 GAN 的研究进展与展望

    摘要:引用格式王坤峰,苟超,段艳杰,林懿伦,郑心湖,王飞跃生成对抗网络的研究与展望自动化学报,论文作者王坤峰,苟超,段艳杰,林懿伦,郑心湖,王飞跃摘要生成式对抗网络目前已经成为人工智能学界一个热门的研究方向。本文概括了的研究进展并进行展望。 3月27日的新智元 2017 年技术峰会上,王飞跃教授作为特邀嘉宾将参加本次峰会的 Panel 环节,就如何看待中国 AI学术界论文数量多,但大师级人物少的现...

    xiaokai 评论0 收藏0
  • 深度习之对抗样本问题

    摘要:相反深度学习的对抗样本是由于模型的线性特征。所以通过对抗训练能够提高深度学习的对于对抗样本的抗干扰能力。此外,指出,人类并不会像现代机器学习算法那样被对抗样本所影响。 2006 年,Geoffrey Hinton 提出了深度学习。受益于大数据的出现和大规模计算能力的提升,深度学习已然成为最活跃的计算机研究领域之一。深度学习的多层非线性结构使其具备强大的特征表达能力和对复杂任务的建模能力。最近...

    zhichangterry 评论0 收藏0
  • AI习路线

    摘要:针对公司样本不足,采用小样本技术和深度学习技术结合,是项目落地的解决方案。深度学习作为当前机器学习领域最热门的技术之一,已经在图像处理领域获得了应用,并且展现出巨大的前景。旨在帮助同学们快速上手如何使用库来完整机器学习案例。 阶段一、人工智能基础 - 高等数学必知必会 本阶段主要从数据分析、概率论和线性代数及矩阵和凸优化这四大块讲解基础,旨在训练大家逻辑能力,分析能力。拥有良好的数学基...

    xuweijian 评论0 收藏0
  • 深度习out了?深度解读AI领域三大前瞻技术

    摘要:而这种举一反三的能力在机器学习领域同样适用,科学家将其称之为迁移学习。与深度学习相比,我们技术较大优点是具有可证明的性能保证。近几年的人工智能热潮中,深度学习是最主流的技术,以及之后的成功,更是使其几乎成为的代名词。 如今,人类将自己的未来放到了技术手里,无论是让人工智能更像人类思考的算法,还是让机器人大脑运转更快的芯片,都在向奇点靠近。谷歌工程总监、《奇点临近》的作者库兹韦尔认为,一旦智能...

    muddyway 评论0 收藏0
  • 到底什么是生成对抗网络GAN?

    摘要:很多人可能会问这个故事和生成式对抗网络有什么关系其实,只要你能理解这段故事,就可以了解生成式对抗网络的工作原理。 男:哎,你看我给你拍的好不好?女:这是什么鬼,你不能学学XXX的构图吗?男:哦……男:这次你看我拍的行不行?女:你看看你的后期,再看看YYY的后期吧,呵呵男:哦……男:这次好点了吧?女:呵呵,我看你这辈子是学不会摄影了……男:这次呢?女:嗯,我拿去当头像了上面这段对话讲述了一位男...

    GitCafe 评论0 收藏0

发表评论

0条评论

阅读需要支付1元查看
<