Re-GAN:残差生成式对抗网络算法
目的 生成式对抗网络(generative adversarial network,GAN)是一种无监督生成模型,通过生成模型和判别模型的博弈学习生成图像.GAN的生成模型是逐级直接生成图像,下级网络无法得知上级网络学习的特征,以至于生成的图像多样性不够丰富.另外,随着网络层数的增加,参数变多,反向传播变得困难,出现训练不稳定和梯度消失等问题.针对上述问题,基于残差网络(residual network,ResNet)和组标准化(group normalization,GN),提出了一种残差生成式对抗网络(residual generative adversarial networks,Re-GAN).方法 Re-GAN在生成模型中构建深度残差网络模块,通过跳连接的方式融合上级网络学习的特征,增强生成图像的多样性和质量,改善反向传播过程,增强生成式对抗网络的训练稳定性,缓解梯度消失.随后采用组标准化(GN)来适应不同批次的学习,使训练过程更加稳定.结果 在Cifar10、CelebA和LSUN数据集上对算法的性能进行测试.Re-GAN的IS(inception score)均值在批次为64时,比DCGAN(deep eonvolutional GAN)和WGAN(Wasserstein-GAN)分别提高了5%和30%,在批次为4时,比DCGAN和WGAN分别提高了0.2%和13%,表明无论批次大小,Re-GAN生成图像具有很好的多样性.Re-GAN的FID(Fréchet inception distance)在批次为64时比DCGAN和WGAN分别降低了18%和11%,在批次为4时比DCGAN和WGAN分别降低了4%和10%,表明Re-GAN生成图像的质量更好.同时,Re-GAN缓解了训练过程中出现的训练不稳定和梯度消失等问题.结论 实验结果表明,在图像生成方面,Re-GAN的生成图像质量高、多样性强;在网络训练方面,Re-GAN在不同批次下的训练具有更好的兼容性,使训练过程更加稳定,梯度消失得到缓解.
图像生成、深度学习、卷积神经网络、生成式对抗网络、残差网络、组标准化
26
TP391(计算技术、计算机技术)
国家自然科学基金项目;华北理工大学杰出青年基金项目;河北省研究生示范课项目
2021-04-26(万方平台首次上网日期,不代表论文的发表时间)
共11页
594-604