码迷,mamicode.com
首页 > Web开发 > 详细

对抗生成网络 Generative Adversarial Networks

时间:2019-08-28 01:01:33      阅读:141      评论:0      收藏:0      [点我收藏+]

标签:tac   red   npv   pci   p2c   nsa   动漫   存在   network   

1. Basic idea
基本任务:要得到一个generator,能够模拟想要的数据分布。(一个低维向量到一个高维向量的映射)
discriminator就像是一个score function。
技术图片

   技术图片

如果想让generator生成想要的目标数据,就把这些真实数据作为discriminator的输入,discriminator的另一部分输入就是generator生成的数据。

1. 初始化generator和discriminator。

2. 迭代:

  固定generator的参数,更新discriminator的参数,maximize f

  固定discriminator的参数,更新generator的参数,minimize f

技术图片

noise的先验分布对结果的影响不大
 
2. GAN as structured learning

Structured Learning/Prediction: 输出一个序列、矩阵、图、树...  Output is composed of components with dependency

重要的是各个components之间的关系。

做 structured learning 的两种思路
  Bottom up:从component的层面生成object
  Top down :整体评价 object,寻找一个最佳的
 
从这个角度理解 GAN:
技术图片

 

3. Can Generator learn by itself? 
其实是可以的。把 <code, object> 的 pair 作为训练数据对,据此训练一个NN来拟合code和object之间的映射关系即可。
 
但问题是:不知道如何把code和object对应起来。(或者说,能反映object中某些特征的code要怎么产生?如何收集这些训练数据对中的code?)
  做法:自监督。训练一个ae的encoder,就能把code和object对应起来,获得code。
那么思考到这里,其实decoder就是generator!给定一个code,就能输出对应的object。
 
技术图片
 
既然如此,还要GAN做什么?(或者说,Autoencoder存在什么问题)
  因为作为训练数据的object是有限的,导致decoder实际上只能把训练过程中见过的code给还原成对应的object。如果随机给一些code,它不会生成训练集中没有见过的object。
 
如何解决?
  VAE:训练decoder的时候给code加点噪声,就能让decoder在生成的时候可以克服一些带噪声的code,即使没有在训练中见过,也能生成比较合理的object(直觉上的理解,训练的时候希望一定范围内的code都能重构输入)。具体看自编码器这篇https://www.cnblogs.com/chaojunwang-ml/p/11421454.html
 
技术图片
 
  
  但不管怎么样,训练AE的时候要去最小化的loss,都是定义在component层面的,比如 l1 norm distance,l2 norm distance,而优化的过程中输出的各个component之间是没有多少互相影响的(除非把网络变得很深)。所以单纯让输出和目标在component层面上越接近越好是不够的。
 
4.为什么discriminator不能通过自己判断去生成?
discriminator比较容易通过整体去判断生成的结果怎么样,但是无法通过这个方式去做生成。
如果非要做,可以穷举所有的输入x,求解argmaxD(x)的x_tilde就好了。
问题是训练discriminator的时候要有正类和负类,正类容易搞定,负类就有问题了,negative example 如果选取的不好(比如随机噪声什么的),就很难训练好的discriminator。
 
GAN
实际做的话训练discriminator:
如果落在高维空间中real examples 所在的区域就给高分,落在生成数据的区域就给低分,但是生成数据的区域肯定比真正的real example 之外的区域要小。
因为real examples是有限的,所以训练generator是让discriminator无效的话,就是说让生成的数据的区域跟之前有不同,再去让discriminator学的更好这样。就跟下面的图表示的差不多。
技术图片

 

2. Conditional generation

text-to-image
问题就是如果只用一般的gan去训练的话,产生的结果是多张图片的平均(比如火车有正面、侧面这样子的问题)。
 
注意!在做conditional gan的时候,G的输入是noise和condition,但是D不能只看G的输出,如果那样的话generator只会学着去产生真实的图片,而无视条件。
 
D要看condition和G(z)以及x,输出一个scalar判断输入是不是真实的图片+和条件是不是匹配。
技术图片
可以看到训练D的时候,负类是有两种情况的。
结构上的话下面这种D结构可能比较合理一点,不过比较多的都是把c和x做embedding或别的处理后直接给到一个network
技术图片
 
stack gan是把embedding后的vector分成几部分训练gan
 
image-to-image
 
3. Unsupervised conditional generation
条件生成这件事能不能做到unsupervised?
比如什么风格转换之类的。问题就是怎么建立c和x之间的联系,手里只有两种数据而已。
 
方法1. 直接转换
D是输入带风格的图片和生成数据,训练去能够判断输入图片是不是属于目标的输出domain
G就是输入原始图片,训练去让D无效,并且要让G的输入和输出还是保持一定的联系。
 
比如cycleGAN,starGAN
 
方法2. 如果输入和输出差距很大,比如真人转换为动漫图像
用encoder投到common space(latent space)上去做
 
VAEGAN
encoder -> decoder -> discriminator,两部分损失,ae的重构损失,和gan的对抗损失
技术图片
 
 
还可以在encoding vector 后面加一个domain discriminator,强制不同domain的输入经过encoder之后都投到一个latent space里面
 
 
4.Theory behind GAN
gan部分的理论,最开始的版本。这里面其实有一些问题
 
我们想要找到一个高维空间中的分布 P_data(x),在目标类别的区域,probability是高的,在那个区域之外,probability是低的。但这个P_data(x)分布的具体形式是不知道的
 
没有gan怎么做生成?
maximum likelihood estimation!
1.从P_data(x)中sample一些数据作为训练数据
2.我们有一个含有未知参数theta的分布P_G(x; theta),想做的事情就是找出能够让P_G和P_data最接近的参数theta。比如我们有一个混合高斯分布GMM作为P_G(x; theta),theta就是Gaussians的means和variances
3.由训练数据{x1, x2, ..., xm}计算P_G(xi; theta)
4.likelihood就定义为所有可能的i,P_G(xi; theta)的连乘
5.就用gradient ascent 让这个likelihood最大
 
 
maximum likelihood estimation 等价于 minimize KL Divergence
原因在于,可以对概率取对数
技术图片
然后可以把连乘号拿出来,变成求和:
技术图片
这个式子就是对期望的估计
技术图片
然后计算这个期望,就是对x求积分
技术图片
然后加一个和P_G完全无关的项,也就是不含theta的项
技术图片
而这样的话,就得到KL散度了
技术图片
====================================
那问题就来了,怎么才能定义一个general的P_G呢,因为如果很复杂、不知道明确的形式的话,怎么计算P_G(xi; theta)?
 
定一个generator作为生成P_G的方式,从一个很简单的distribution,project成一个复杂的distribution
技术图片
那么我们的目标就比较清楚了,就是要找一个generator,让这个P_G和P_data越接近越好,也就是让这两个分布之间的某种divergence。
技术图片
但是没法直接做,因为P_G和P_data的定义式我们都是不知道的,就没法计算divergence
 
虽然不知道P_G和P_data的定义式,但是我们可以从这两个分布中sample data出来
从P_G里面做sample,就是获得了训练数据
P_data里面做sample,就是从normal里面sample数据然后经过generator,得到G(z)
然后怎么计算这两个分布的divergence呢 —> 通过discriminator,先放结论!
技术图片
也就是说,D* = argmaxV(G, D),(这其实就是去训练一个binary classifier?)
 
这个结果其实是最小化P_G和P_data的JS divergence,为什么呢?
下面上推导:
 
 
=====================
所以最后,训练gan就是在做
技术图片
举个例子:对每一个可能的G,先找到让V(G,D)最大的D,然后再从这些G-D对里面找到令V(G,D)最小的G,这个例子里就是G3-D红点!
技术图片
所以要怎么去训练呢?就是要解这个minmax问题
 
找到一个最好的G 去minimize L(G) = maxV(G, D)
技术图片
那么问题就是L(G)里面的max函数能够微分吗?可以!
技术图片
所以
1.给G0
2.找到D0*去maximize V(G0, D)
3.
技术图片
4.找到D1*去maximize V(G1, D)
5. ...
 
 
问题就是,更新G那一步会改变V,从V(Gt, Dt*) 到 V(Gt+1, Dt*),而这个时候L(G)可能已经不再是
V(Gt+1, Dt*),而是V(Gt+1, Dt+1*), Dt*不一定等于Dt+1*,而我们的做法就是假设这两个值是近似的。
所以说!不要update G 太多。而应该尽量要把discriminator训练到底,至少要找到一个local maxima。因为确实要找到最大的V
 
实作的时候就是用sample近似算期望。
技术图片
这就是训练一个binary classifier,把从Pdata(x)中sample出来的real data作为positive examples,把生成数据也就是从P_G(x)中sample出来的数据当作negative examples
技术图片
 
但是对于训练G来说,还是有问题的。minimize下面这个式子的时候,在开始的时候往往D(x)是很小的,log(1-D(x))在这个区间是很平缓的,更新的就很慢。
技术图片
所以做一个替换,log(1-D(x))和-log(D(x))在变化趋势上是一致的,但是D(x)很小的时候-log(D(x))的变化就比较快!
技术图片
别问为什么可以,大佬说这样就是可以!
技术图片
而且这样连代码都不用改,就把两类的label换掉就好了。。。
 
但其实像一开始那样子做也是可以的,叫MinimaxGAN,MMGAN
改了之后的叫做Non-saturating GAN
 
理论完毕
=================
直观的东西。
技术图片
那到底到最后discriminator会不会烂掉?
 
另一个trick是不只把上一个generator产生的数据拿来,也把再在此之前的generator产生的generated data 拿来一起训练D, 效果会更好。虽然理论上讲没什么意义。
 
 
 

对抗生成网络 Generative Adversarial Networks

标签:tac   red   npv   pci   p2c   nsa   动漫   存在   network   

原文地址:https://www.cnblogs.com/chaojunwang-ml/p/11421456.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!