【GAN简介】——基于李宏毅2021春机器学习课程
GAN
简介
什么是Generator（生成器）
输入X和一个Simple Distribution（简单分布，如正态分布）中的一个Z，得到一个Complex Distribution
简单来说就是一个固定值加上一个分布中的随机值，输入到网络中，得到一个值，随着Z的不同，得到的Y也不同，最终形成一个复杂分布。
能输出Complex Distribution的Network，即Generator。（输出的是一个分布）
- Simple意思是我们知道这个分布的表达式（）
为什么要Generator，什么时候用到？
例如：
下图为进行糖豆人行为预测
以往的一对一输入输出会导致，同一批训练资料，会得到一个同时向左转和向右转的训练结果，因此我们需要使用Generator来解决这个问题。
通过Generator，加入一个Simple Distribution来生成一个包含向左转或向右转的Complex Distribution。
总结
总的来说，就是当我们任务需要创造力，即想要找到一个Function能同一个输入得到不同的输出，而且这些输出都是对的
还有一些需要创造力的任务，（老师是个老二次元了（=。=））例如：
上述的答案就是一个Complex Distribution，答案都是对的且多样的。
知名的Generator Networ —— Generative Adversarial Network（GAN）
unconditional generation
未输入X的形况下的generation ——unconditional generation
从一个Normal Distribution(正态分布)中生成Z输入到Generator中，得到一个Complex Distribution
Generator完成：输入一个低维的向量，得到一个高维的向量
- 一张图片实际是由一个高维的向量组合而成，
- 例如：一张彩色图假设为64x64像素，则输出的向量为64x64x3（RGB）
Discriminator —— 判别器（架构也是Neural Network，根据数据集选择）
符合输出1.0，不符合输出0.1，以此类推，用来判别 输出结果是否符合预期结果
Basic Idea of GAN
Generator想办法骗过Discriminator，Discriminator想办法不被Generator骗过——adversarial（对抗）
如上图，Generator一代生成的是无效数据，Discriminator根据生成的数据集中是否有眼睛来判断是否为二次元图片，因此，Generator调整参数，变为Generator二代，生成出有眼睛的图片，Discriminator也调整参数，变成Discriminator二代，根据是否有嘴巴来判断是否为二次元图片，以此类推，一直迭代。
Algorithm——具体算法
Generator和Discriminator都是两个Neural Network。
训练Discriminator——固定Generator
Discriminator不被Generator骗过
- 在一开始Generator的参数是随机初始化的，因此输入randomly sampled vector得到的都是一些杂讯，如上图的标识0处图像，且Generator的参数是Fix的（固定的）。
- 根据自己的Database，sample出一些测试集，然后用测试集和Generator的输出结果来训练Discriminator，让Discriminator能分辨测试集和输出结果的差异，具体来说可能向上图分类1和0，让Discriminator做一个分类的问题——将1分成同一类，0分成另一类，或者回归的问题——看到测试集的图输出1，看到输出集的图输出0。然后迭代，Update Discriminator的参数。
训练Generator——固定Discriminator
Generator生成的图片要骗过Discriminator
- 我们将一个vector输入Generator，然后生成的结果输出Discriminator，最后输出一个分数，我们期待最终分数越高越好
- 我们可以将两个Neutral Network接起来，看成一个large network，前几层的输出一个结果，这个结果可以组合成一张图片（实则Generator的功能），然后将结果输入到后几层，得到一个分数（实则Discriminator的功能）。
- 此时，我们要Fix Discriminator的参数，来update Generator的参数。不固定Discriminator的参数会产生因为Discriminator的参数而导致分数升高的情况，而非Generator的参数导致的分数升高，从而导致训练Generator失败。
反复训练
一些GAN的生成效果
竟然还能产生异色瞳(⊙o⊙)？
（两行都是机器产生的 ）
可以得到两张人脸融合的脸，或者输入左脸右脸，得到一张正脸（倒数第二行）
本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！