关于SAGAN
论文阅读笔记
论文题目：Self-Attention Generative Adversarial Networks
创新点：
- 文章提出的SAGAN可以使用来自所有特征位置的线索来生成详细信息（传统的卷积遗传算法只根据低分辨率特征映射中的空间局部点来生成高分辨率的细节信息）。
- 将谱归一化（spectral normalization）应用到GAN产生器，改善了训练动力（training dynamics）。
具体内容：
提出应用于GAN的自我注意机制：
前面隐藏层输出的图像特点被转换成f，g两个特征空间，用来计算注意度（attention）。 B j , i B_{j,i} Bj,i表示在合成第j个区域时，模型注意到第i个位置的程度。
"注意层"的输出为：
网络最终输出为：
y i = γ o i + x i , γ 为 缩 放 参 数 y_i = γo_i + x_i{, γ为缩放参数} yi=γoi+xi,γ为缩放参数
判别器和生成器的目标函数分别为：
本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！