标签:code 不同的 出现 dom mamicode inf alt 技术 bsp
针对GAN中容易出现的Mode Collapse问题,即Generator趋向于集中在目标分布中某一小部分,比如无视输入,均得到一系列相似却能够骗过Discriminator的输出。
Mode Collapse问题的解决方法:
1. Do Nothing
通常来说Generator的输入和输出不会相差太远,因此面对Collapse的风险并非一定要采取措施
2. 对输入和输出添加限制
对输入和输出提取特征,要求Generator的输出和输入间保持一定的相似度
3. Cycle GAN
在原有的GAN的基础上(Gx→y+Dy),加上DomainY到DomainX的Gy→x,Gy→x在这里的作用是限制Y的结构,使其无法偏离X太远,因为如果Y是相对X截然不同的图像,即已丢失了X的信息,Gy→x则不能将其转化回X
但是仅仅只添加Gy→x的限制是不够的,Mode依然会Collapse或者根本train不起来,而另外添加一个Cycle就能够添加额外的Constrain
在由Two Cycles组成的Cycle GAN中,Gx→y和Gy→x都能够从对方的目标分布中学习,而以往Gy→x只能够从Gx→y生成的Y中学习,当Y的质量很差时,训练出来的Gy→x也必定是差的
标签:code 不同的 出现 dom mamicode inf alt 技术 bsp
原文地址:https://www.cnblogs.com/JunzhaoLiang/p/12023486.html