本文主要是介绍融会贯通__条件生成对抗网络(cGAN)(三),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
简介
- 2014年,Goodfellow提出了GAN,在论文的最后他指出了GAN的优缺点以及未来的研究方向和拓展,其中他提到的第一点拓展就是:A conditional generative model p(x|c) can be obtained by adding c as input to both G and D。这是因为这种不需要预先建模的方法缺点是太过自由了,基于简单 GAN 的方式就不太可控了。于是我们希望得到一种条件型的生成对抗网络,通过给GAN中的G和D增加一些条件性的约束,来解决训练太自由的问题。
- 于是同年,Mirza等人就提出了一种cGAN,原论文地址:https://arxiv.org/pdf/1411.1784.pdf
cGAN的思想
在初窥门径__生成对抗网络(GAN)(一)中,我们提到过,与其他生成式模型相比,GAN这种竞争的方式不再要求一个假设的数据分布,即不需要formulate p(x),而是使用一种分布直接进行采样sampling,从而真正达到理论上可以完全逼近真实数据,这也是GAN最大的优势。然而,这种方式是基于无监督学习的,没有指定对应的标签,使用一个分布直接进行采样,从而理论上达到可以完全逼近原始数据,因此生成网络G比较自由,而且当图片的像素较多的时候,这样导致训练好的生成网络G不可控制,为了使得训练的生成网络比较可控,我们希望将对原来的无监督学习的对抗网络加一些限制,即将其变为有监督学习的网络,使得其可以更好地在我们的掌控下进行学习!
原理图如下:
因为cGAN是对原始GAN的一个扩展,生成器和判别器都增加额外信息y为条件,y可以是任意信息,例如类别信息,或者其他模态的数据。通过将额外信息y输送给判别模型和生成模型,作为输入层的一部分,从而实现条件GAN。在生成模型中,先验输入噪声p(z)和条件信息y联合组成了联合隐层表征。对抗训练框架在隐层表征的组成方式方面相当地灵活。类似地,条件 GAN 的目标函数是带有条件概率的二人极小极大值博弈。
原始GAN对应的loss函数:
cGAN对应的loss函数:
对比可以发现CGAN网络相比GAN网络加了标签y进行限制,这样就可以无监督的GAN网络转化为了有监督的CGAN网络,训练过程和GAN网络一样。
系列传送门:
初窥门径__生成对抗网络(GAN)(一)
小试牛刀__GAN实战项目之mnist数据集(二)
炉火纯青__深度卷积生成对抗网络(DCGAN)(四)
登堂入室__生成对抗网络的信息论扩展(infoGAN)(五)
渐入佳境__距离生成对抗网络(WGAN)(六)
登峰造极__边界均衡生成对抗网络(BEGAN)(七)
一代宗师__循环一致性生成对抗网络(CycleGAN)(八)
这篇关于融会贯通__条件生成对抗网络(cGAN)(三)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!