深度学习_GAN_CycleGAN

2023-10-11 23:38
文章标签 学习 深度 cyclegan gan

本文主要是介绍深度学习_GAN_CycleGAN,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

非匹配数据的图像转换

Pix2Pix可以很好地处理匹配数据集的图像转换,但是在很多情况下匹配数据集是没有的或者说非常难收集到。在实际生活中,我们却可以很容易的拿到两个领域的大量非匹配数据。

下图展示了匹配数据和非匹配数据的区别:

在这里插入图片描述

CycleGAN就是解决非匹配数据集的图像转换的一种非常好用的网络。对于照片风格的转换,传统CNN网络是通过将某个画作中的风格叠加到原始图片上,如下图所示:

在这里插入图片描述

上面的方法仅仅将两张特定的图片之间进行转换,而CycleGAN的转换是存在于两个图像领域中的。

接下来我们欣赏一下一些CycleGAN转换的例子,在学习技术的同时也感受艺术的魅力。
以下,enjoy:

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

CycleGAN框架

CycleGAN的核心架构是由两个生成对抗网络的合作组成的。X与Y分别代表两组不同领域的图像数据,第一组生成对抗网络是生成器G(从X到Y的生成)与判别器 D Y D_Y DY,用于判断图像是否属于领域Y;第二组生成对抗网络是反向的生成器F(从Y到X的生成)与判别器 D X D_X DX,用于判断图像是否属于领域X。两个生成器G和F的目标都是尽可能生成对方领域中的图像以“骗过”各自对应的判别器 D Y D_Y DY D X D_X DX

CycleGAN逻辑结构

在这里插入图片描述

生成器结构

在这里插入图片描述

由编码层、转换层和解码层三部分组成。

判别器结构

在这里插入图片描述

CycleGAN目标函数

CycleGAN中引入了Cycle-consistency Loss。我们需要将两组生成对抗网络有机地结合起来。我们首先看下面第一张图,在生成器G通过条件数据x生成Y领域的数据 Y ^ \hat{Y} Y^后,我们需要将它通过对面的生成器F重新还原一个原来领域中的 x ^ \hat{x} x^,为了保证一致性,我们希望让x和 x ^ \hat{x} x^尽可能接近,而x和 x ^ \hat{x} x^之间的距离我们称之为Cycle-consistency Loss。

在这里插入图片描述

在这里插入图片描述

上面的两个图可以有下面的两个公式概括:

x → G ( x ) → F ( G ( x ) ) ≈ x x \to G(x)\to F(G(x))\approx x xG(x)F(G(x))x

y → F ( y ) → G ( F ( y ) ) ≈ y y \to F(y)\to G(F(y))\approx y yF(y)G(F(y))y

接下来我们需要设计两个对抗网络的对抗损失:

L G A N ( G , D Y , X , Y ) = E y ∼ p d a t a ( y ) [ log ⁡ D Y ( y ) ] + E x ∼ p d a t a ( x ) [ log ⁡ ( 1 − D Y ( G ( x ) ) ] L_{GAN}(G,D_Y,X,Y)= {\rm E}_{y\sim{p_{data}(y)}}[\log D_Y(y)] + {\rm E}_{x\sim{p_{data}}(x)}[\log (1 - D_Y(G(x))] LGAN(G,DY,X,Y)=Eypdata(y)[logDY(y)]+Expdata(x)[log(1DY(G(x))]

L G A N ( G , D X , X , Y ) = E x ∼ p d a t a ( x ) [ log ⁡ D X ( x ) ] + E y ∼ p d a t a ( y ) [ log ⁡ ( 1 − D X ( F ( y ) ) ] L_{GAN}(G,D_X,X,Y)= {\rm E}_{x\sim{p_{data}(x)}}[\log D_X(x)] + {\rm E}_{y\sim{p_{data}}(y)}[\log (1 - D_X(F(y))] LGAN(G,DX,X,Y)=Expdata(x)[logDX(x)]+Eypdata(y)[log(1DX(F(y))]

接下来我们定义Cycle-consistency Loss来确保生成器产生的数据能够与反向生成后的数据基本保持一致。

L c y c ( G , F ) = E x ∼ p d a t a x [ ∣ ∣ F ( G ( x ) ) − x ∣ ∣ 1 ] + E y ∼ p d a t a y [ ∣ ∣ G ( F ( x ) ) − y ∣ ∣ 1 ] L_{cyc}(G,F) = {\rm E}_{x\sim p_{data}{x}}[||F(G(x)) - x||_1] + {\rm E}_{y\sim p_{data}{y}}[||G(F(x)) - y||_1] Lcyc(G,F)=Expdatax[F(G(x))x1]+Eypdatay[G(F(x))y1]

最后我们可以得出完整的目标函数:

L ( G , F , D X , D Y ) = L G A N ( G , D Y , X , Y ) + L G A N ( F , D X , Y , X ) + λ L c y c ( G , F ) L(G,F,D_X,D_Y) = L_{GAN}(G,D_Y,X,Y) + L_{GAN}(F,D_X,Y,X) + \lambda L_{cyc}(G,F) L(G,F,DX,DY)=LGAN(G,DY,X,Y)+LGAN(F,DX,Y,X)+λLcyc(G,F)

与原始GAN一样,最终的优化函数依然是需要解决下面的这个极小极大值问题:

G ∗ , F ∗ = min ⁡ G , F max ⁡ D X , D Y L ( G , F , D X , D Y ) G^*,F^*=\mathop {\min }\limits_{G,F} \mathop {\max }\limits_{D_X,D_Y} L(G,F,D_X,D_Y) G,F=G,FminDX,DYmaxL(G,F,DX,DY)

实验

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

这篇关于深度学习_GAN_CycleGAN的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/191665

相关文章

深度解析Java DTO(最新推荐)

《深度解析JavaDTO(最新推荐)》DTO(DataTransferObject)是一种用于在不同层(如Controller层、Service层)之间传输数据的对象设计模式,其核心目的是封装数据,... 目录一、什么是DTO?DTO的核心特点:二、为什么需要DTO?(对比Entity)三、实际应用场景解析

深度解析Java项目中包和包之间的联系

《深度解析Java项目中包和包之间的联系》文章浏览阅读850次,点赞13次,收藏8次。本文详细介绍了Java分层架构中的几个关键包:DTO、Controller、Service和Mapper。_jav... 目录前言一、各大包1.DTO1.1、DTO的核心用途1.2. DTO与实体类(Entity)的区别1

深度解析Python装饰器常见用法与进阶技巧

《深度解析Python装饰器常见用法与进阶技巧》Python装饰器(Decorator)是提升代码可读性与复用性的强大工具,本文将深入解析Python装饰器的原理,常见用法,进阶技巧与最佳实践,希望可... 目录装饰器的基本原理函数装饰器的常见用法带参数的装饰器类装饰器与方法装饰器装饰器的嵌套与组合进阶技巧

深度解析Spring Boot拦截器Interceptor与过滤器Filter的区别与实战指南

《深度解析SpringBoot拦截器Interceptor与过滤器Filter的区别与实战指南》本文深度解析SpringBoot中拦截器与过滤器的区别,涵盖执行顺序、依赖关系、异常处理等核心差异,并... 目录Spring Boot拦截器(Interceptor)与过滤器(Filter)深度解析:区别、实现

深度解析Spring AOP @Aspect 原理、实战与最佳实践教程

《深度解析SpringAOP@Aspect原理、实战与最佳实践教程》文章系统讲解了SpringAOP核心概念、实现方式及原理,涵盖横切关注点分离、代理机制(JDK/CGLIB)、切入点类型、性能... 目录1. @ASPect 核心概念1.1 AOP 编程范式1.2 @Aspect 关键特性2. 完整代码实

SpringBoot开发中十大常见陷阱深度解析与避坑指南

《SpringBoot开发中十大常见陷阱深度解析与避坑指南》在SpringBoot的开发过程中,即使是经验丰富的开发者也难免会遇到各种棘手的问题,本文将针对SpringBoot开发中十大常见的“坑... 目录引言一、配置总出错?是不是同时用了.properties和.yml?二、换个位置配置就失效?搞清楚加

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

Python中文件读取操作漏洞深度解析与防护指南

《Python中文件读取操作漏洞深度解析与防护指南》在Web应用开发中,文件操作是最基础也最危险的功能之一,这篇文章将全面剖析Python环境中常见的文件读取漏洞类型,成因及防护方案,感兴趣的小伙伴可... 目录引言一、静态资源处理中的路径穿越漏洞1.1 典型漏洞场景1.2 os.path.join()的陷

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,:本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1:Kotlin 如何解决 Java 的 NullPointerExceptio

Spring Boot拦截器Interceptor与过滤器Filter深度解析(区别、实现与实战指南)

《SpringBoot拦截器Interceptor与过滤器Filter深度解析(区别、实现与实战指南)》:本文主要介绍SpringBoot拦截器Interceptor与过滤器Filter深度解析... 目录Spring Boot拦截器(Interceptor)与过滤器(Filter)深度解析:区别、实现与实