李弘毅专题

WDK李弘毅学习笔记第十周01_Unsupervised Learning: Neighbor Embedding

Unsupervised Learning: Neighbor Embedding 文章目录 Unsupervised Learning: Neighbor Embedding摘要1、Manifold Learning1.1 Locally Linear Embedding(LLE)1.1.1 思想1.1.2 做法1.1.3 实验 1.2 Laplacian Eigenmaps(拉普拉斯特

[机器学习入门] 李弘毅机器学习笔记-7 (Brief Introduction of Deep Learning;深度学习简介)

[机器学习入门] 李弘毅机器学习笔记-7 (Brief Introduction of Deep Learning;深度学习简介) PDFVIDEO Ups and downs of Deep Learning Three Steps for Deep Learning

GAN笔记_李弘毅教程(十)Evaluation Concluding Remarks

文章目录 EvaluationLikelihoodInception Score Mode DroppingGAN产生的distribution不够大之solutionUnroll GANMini-batch DiscriminationOptimal Transport GAN(OTGAN) Concluding Remarks Evaluation Likelihood

GAN笔记_李弘毅教程(八)Photo Editing

Demo 可以根据调节参数来变化特征 要知道输入的每一维控制输出的什么特征。 G输入z,输出x;如果已知x(图片和标签),我们如何知道生成x的z(vector)? 学习一个encoder Decoder不动,只train encoder,修正Encoder的最后一层。实际上可以拿D的参数来初始化Encoder的参数。 这样当给出一些image,就可以反推出它们的vector。 下图公式:长发

GAN笔记_李弘毅教程(七)Info GAN,VAE-GAN,BiGAN

文章目录 InfoGANVAE-GANBiGANTriple GANDomain-adversarial trainingOriginal Seq2seq Auto-encoder Feature Extraction InfoGAN 手写数字生成,input改变一个维度,output看不出什么变化。 input的变化对output的影响不明确 怎么能看出这种变化的根源?

GAN笔记_李弘毅教程(六)WGAN、EBGAN

文章目录 Wasserstein GAN(WGAN)Improved WGAN(WGAN GP)Energy-based GAN(EBGAN)Loss-sensitive GAN(LSGAN) 在大多数情况下, P G {P_G} PG​和 P d a t a {P_{data}} Pdata​训练到最后是不会重叠的。因为有两点。 1.data本质: P G

GAN笔记_李弘毅教程(五)General Framework

这个章节主要讲的是不同的divergence对GAN的影响 f-divergence都可以放到GAN架构中。 f是凸函数并且f(1)=0 当p=q时,divergence为0,0是最小值。 代入不同的 f ( x ) f(x) f(x),即有不同的KL。 每一个 f ( x ) f(x) f(x)都有一个 f ∗ f^* f∗,凸共轭。 有两种方法,分别为穷举法和画图法 穷举法: 穷举x

GAN笔记_李弘毅教程(a)Basic Theory

文章目录 这一章节主要讲的是GAN的一些基础知识 distribution在蓝色区域才能生成人脸,否则会很模糊。 那怎么找出这个distribution? 用最大似然估计,这里要有点相关基础。可见 https://www.jianshu.com/p/f1d3906e4a3e 这个过程相当于最小化KL散度。 以下这个过程有点像在凑KL散度的定义式,KL散度表征的是两个概

GAN笔记_李弘毅教程()Basic Theory

文章目录 这一章节主要讲的是GAN的一些基础知识 distribution在蓝色区域才能生成人脸,否则会很模糊。 那怎么找出这个distribution? 用最大似然估计,这里要有点相关基础。可见 https://www.jianshu.com/p/f1d3906e4a3e 这个过程相当于最小化KL散度。 以下这个过程有点像在凑KL散度的定义式,KL散度表征的是两个概

GAN笔记_李弘毅教程(三)Unsupervised Conditional Generation

文章目录 简介Direct TransformationCycle GANStarGAN Projection to Common Space 简介 风景照—画作(风格迁移): Unsupervised Conditional Generation有两种方法: 第一种的直接转化通常是颜色上的改变; 而当差距很大的时候,用第二种方法: Direct Transformatio

GAN笔记_李弘毅教程(二)Conditional Generation

文章目录 Text-to-Image算法Image-to-imageVideo Text-to-Image 用传统监督方法,火车有侧面图片也有正面图片,而训练的结果往往是产生多张火车图片(有正面、侧面)的平均,所以生成图片会比较模糊: 火车图片和Z共同输入至G中,生成一个图像 x = G ( c , z ) x = G(c,z) x=G(c,z); 让D能判断出真实图片为1,生