深度对抗学习在图像分割和超分辨率中的应用

FingerLiu 发布于2019-04-25 18:09 / 866人阅读

摘要：深度学习已经在图像分类检测分割高分辨率图像生成等诸多领域取得了突破性的成绩。另一个问题是深度学习的模型比如卷积神经网络有时候并不能很好地学到训练数据中的一些特征。本文通过最近的几篇文章来介绍它在图像分割和高分辨率图像生成中的应用。

深度学习已经在图像分类、检测、分割、高分辨率图像生成等诸多领域取得了突破性的成绩。但是它也存在一些问题。首先，它与传统的机器学习方法一样，通常假设训练数据与测试数据服从同样的分布，或者是在训练数据上的预测结果与在测试数据上的预测结果服从同样的分布。而实际上这两者存在一定的偏差，比如在测试数据上的预测准确率就通常比在训练数据上的要低，这就是过度拟合的问题。

另一个问题是深度学习的模型（比如卷积神经网络）有时候并不能很好地学到训练数据中的一些特征。比如，在图像分割中，现有的模型通常对每个像素的类别进行预测，像素级别的准确率可能会很高，但是像素与像素之间的相互关系就容易被忽略，使得分割结果不够连续或者明显地使某一个物体在分割结果中的尺寸、形状与在金标准中的尺寸、形状差别较大。

1.对抗学习

对抗学习（adversarial learning）就是为了解决上述问题而被提出的一种方法。学习的过程可以看做是我们要得到一个模型（例如CNN），使得它在一个输入数据X上得到的输出结果尽可能与真实的结果Y(金标准）一致。在这个过程中使用一个鉴别器（discriminator），它可以识别出一个结果y到底是来自模型的预测值还是来自真实的结果。如果这个鉴别器的水平很高，而它又把和Y搞混了，无法分清它们之间的区别，那么就说明我们需要的模型具有很好的表达或者预测能力。本文通过最近的几篇文章来介绍它在图像分割和高分辨率图像生成中的应用。

2. 用于图像分割

Semantic Segmentation using Adversarial Networks （https://arxiv.org/abs/1611.08408, 25Nov 2016）,这篇文章第一个将对抗网络（adversarial network）应用到图像分割中，该文章中的方法如下图。

左边是一个CNN的分割模型，右边是一个对抗网络。对抗网络的输入有两种情况，一是原始图像+金标准，二是原始图像+分割结果。它的输出是一个分类值（1代表它判断输入是第一种情况，0代表它判断输入是第二种情况）。代价函数定义为:

另外从训练过程中的性能上也可以看出，使用对抗训练，降低了过度拟合。

3.用于半监督学习

An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks（https://arxiv.org/pdf/1702.02382.pdf, 8 Feb 2017）,这篇文章中使用对抗网络来做图像分割的半监督学习。半监督学习中一部分数据有标记，而另一部分数据无标记，可以在准备训练数据的过程中节省大量的人力物力。

该代价函数使分割算法在标记数据和未标记数据上得到尽可能一致的结果。整个算法可以理解成通过使用未标记数据，实现对分割网络的参数的规则化。

上图是在CamVid数据集上分别使用1/8， 1/4， 1/2 和1/1的标记数据进行训练的结果。相比于蓝线只使用标记数据进行训练，该方法得到了较大的性能提高，如红线所示。

4.用于域适应

FCNs in the Wild: Pixel-level Adversarial and Constraint-based Adaptation（https://arxiv.org/abs/1612.02649, 8 Dec 2016 ）,这篇文章将对抗学习用到基于域适应的分割中。

域适应是指将在一个数据集上A训练得到的模型用到与之类似的一个数据集B上，这两个数据集的数据分布有一定的偏移（distribution shift），也叫做域偏移（domain shift）。A 被称为源域 source domain，B被称为目标域 target domain。源域中的数据是有标记的，而目标域的数据没有标记，这种问题就被称为非监督域适应。该文章要解决的问题如下图所示：

该文章中认为一个好的分割算法应该对图像是来自于源域还是目标域不敏感。具体而言就是从输入图像中提取的抽象特征不受域之间的差异影响，因此从源域中的图像提取的抽象特征与从目标域中的图像提取的抽象特征很接近。那么如果用一个判别器来判断这个抽象特征是来自于源域中的图像还是来自于目标域中的图像，这个判别器应该尽量无法判断出来。方法的示意图如下：

该文章认为有两个方面引起了域之间的偏移，一个是全局性的，比如不同天气状况下的街道场景，一个是与特定的类别相关的，比如不同国家城市之间的交通标志。因此在代价函数中考虑了这两种情况：

上图是在Cityscapes数据集上的结果。实验中把训练集作为源域，验证集作为目标域，分别展示了只使用全局性的域适应(GA)和类别特异性域适应（CA）的结果。

5. 高分辨率图像重建

Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network (https://arxiv.org/abs/1609.04802, 21 Nov, 2016)这篇文章将对抗学习用于基于单幅图像的高分辨重建。基于深度学习的高分辨率图像重建已经取得了很好的效果，其方法是通过一系列低分辨率图像和与之对应的高分辨率图像作为训练数据，学习一个从低分辨率图像到高分辨率图像的映射函数，这个函数通过卷积神经网络来表示。

传统的方法一般处理的是较小的放大倍数，当图像的放大倍数在4以上时，很容易使得到的结果显得过于平滑，而缺少一些细节上的真实感。这是因为传统的方法使用的代价函数一般是最小均方差（MSE），即

该代价函数使重建结果有较高的信噪比，但是缺少了高频信息，出现过度平滑的纹理。该文章中的方法提出的方法称为SRGAN, 它认为，应当使重建的高分辨率图像与真实的高分辨率图像无论是低层次的像素值上，还是高层次的抽象特征上，和整体概念和风格上，都应当接近。整体概念和风格如何来评估呢？可以使用一个判别器，判断一副高分辨率图像是由算法生成的还是真实的。如果一个判别器无法区分出来，那么由算法生成的图像就达到了以假乱真的效果。

小结

对抗学习的概念就是引入一个判别器来解决不同数据域之间分布不一致的问题，通过使判别器无法区分两个不同域的数据，间接使它们属于同一个分布，从而作为一个规则化的方法去指导深度学习模型更新参数，达到更好的效果。关于它的数学证明，可以参见[1]。

参考文献

[1] Goodfellow, Ian, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, and Yoshua Bengio. "Generative adversarial nets." In Advances in neural information processing systems, pp. 2672-2680. 2014.

[2] Luc, Pauline, Camille Couprie, Soumith Chintala, and Jakob Verbeek. "Semantic Segmentation using Adversarial Networks." arXiv preprint arXiv:1611.08408 (2016).

[3] Mateusz Koziński, Loïc Simon, Frédéric Jurie, "An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks", arXiv preprint arXiv:1702.02382(2017).

[4] Hoffman, Judy, Dequan Wang, Fisher Yu, and Trevor Darrell. "FCNs in the Wild: Pixel-level Adversarial and Constraint-based Adaptation." arXiv preprint arXiv:1612.02649 (2016).

[5] Ledig, Christian, Lucas Theis, Ferenc Huszár, Jose Caballero, Andrew Cunningham, Alejandro Acosta, Andrew Aitken et al. "Photo-realistic single image super-resolution using a generative adversarial network." arXiv preprint arXiv:1609.04802 (2016).

欢迎加入本站公开兴趣群

商业智能与数据分析群

兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识

QQ群：81035754

云服务器 idc机房托管在深度学习中的应用图像识别中的深度学习机器学习在企业中的应用分割数据库深度学习

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/4466.html

深度学习在图像超分辨率重建中的应用

摘要：基于深度学习的，主要是基于单张低分辨率的重建方法，即。而基于深度学习的通过神经网络直接学习分辨率图像到高分辨率图像的端到端的映射函数。超分辨率技术（Super-Resolution）是指从观测到的低分辨率图像重建出相应的高分辨率图像，在监控设备、卫星图像和医学影像等领域都有重要的应用价值。SR可分为两类:从多张低分辨率图像重建出高分辨率图像和从单张低分辨率图像重建出高分辨率图像。基于深度学...

xinhaip 2019-04-25 18:10 评论0 收藏0
追根溯源！一图看尽深度学习架构谱系

摘要：近几年，深度学习高速发展，出现了大量的新模型与架构，以至于我们无法理清网络类型之间的关系。是由深度学习先驱等人提出的新一代神经网络形式，旨在修正反向传播机制。当多个预测一致时本论文使用动态路由使预测一致，更高级别的将变得活跃。近几年，深度学习高速发展，出现了大量的新模型与架构，以至于我们无法理清网络类型之间的关系。在这篇文章中，香港科技大学（HKUST）助理教授金成勳总结了深度网络类型之间...

tinylcy 2019-04-25 18:20 评论0 收藏0
感知对抗网络 PAN，一个框架搞定多种图像转换

摘要：此前有工作将像素损失和生成对抗损失整合为一种新的联合损失函数，训练图像转换模型产生分辨率更清的结果。一般来说，结合使用多种损失函数的效果通常比单独使用一种要好。结合感知对抗损失和生成对抗损失，提出了感知对抗网络这一框架，处理图像转换任务。近来，卷积神经网络的发展，结合对抗生成网络（GAN）等崭新的方法，为图像转换任务带来了很大的提升，包括图像超分辨率、去噪、语义分割，还有自动补全，都有亮眼...

happen 2019-04-25 18:16 评论0 收藏0
一文带你看遍深度学习发展的成就历程(一)

摘要：它的主要目的是与另一个代理人进行文本交流并达成共识如何将一个物品书籍，帽子等分成两部分。读唇术读唇是另一项深度学习的成就和对人类挑战的胜利。生成对抗网络是一类用于无监督机器学习的神经网络。 showImg(https://segmentfault.com/img/remote/1460000019574886); 在这篇文章中，作者将描述17年在机器学习领域中发生了什么有趣的重大发展,...

vpants 2019-06-26 20:05 评论0 收藏0
一文带你看遍深度学习发展的成就历程(一)

摘要：它的主要目的是与另一个代理人进行文本交流并达成共识如何将一个物品书籍，帽子等分成两部分。读唇术读唇是另一项深度学习的成就和对人类挑战的胜利。生成对抗网络是一类用于无监督机器学习的神经网络。 showImg(https://segmentfault.com/img/remote/1460000019574886); 在这篇文章中，作者将描述17年在机器学习领域中发生了什么有趣的重大发展,...

wupengyu 2019-06-26 20:05 评论0 收藏0