量化权值激活的生成对抗网络
近年来,生成对抗网络(Generative Adversarial Networks,GAN)在图像超分辨率、图像生成等许多计算机视觉任务中展现出优异的性能.借助于GPU强大的计算力,人们可以设计计算复杂度更高的GAN网络.然而,对于资源受限的移动端设备,高功耗、计算需求大的GAN将很难被直接部署到实际应用中.得益于神经网络压缩技术取得的巨大进展,将GAN部署到移动端设备成为可能.为此,文中提出一种同时对网络权值和激活进行量化的方案来压缩GAN网络.通过量化敏感性分析发现,与量化分类网络不同,GAN中的量化权重比量化激活更敏感,因此在量化时给予权重更多的量化比特.文中比较了两种评价GAN生成图像的指标即Inception Score(IS)和Fréchet Inception Distance(FID),发现FID更适合评估量化后GAN的性能.基于敏感性分析在Mnist和Celeb-A数据集上进行量化实验,用FID指标来评估量化GAN的性能.实验结果表明:在生成图像质量不下降的情况下,所提方法依然可以取得4倍以上的压缩率,从而有效地解决了GAN的压缩问题.
生成对抗网络、资源受限、移动端设备、神经网络压缩、量化
47
2020-05-25(万方平台首次上网日期,不代表论文的发表时间)
共5页
144-148