基于深度卷积神经网络的帧内模式决策

摘要：

AVS2编码在节省码率的同时,自身的编码复杂度很高.因为AVS2采用了率失真优化(RDO)技术,所以编码树单元(CTU)划分的复杂度占据了AVS2编码复杂度的很大一部分.因此,提议用卷积神经网络(CNN)模型来替代原AVS2编码标准的参考软件RD19.1中编码树划分的过程.首先,将问题归类为分类问题,然后设计了适用于编码块划分的卷积神经网络结构,包括3个卷积层、1个最大池化层和2个全连接层.最后,将训练得到的模型分别应用于64×64和32×32大小的编码块上.实验结果显示,所建议方案比原RD19.1平均节省时间为31.36％,比特率平均增加了2.25％.

关键词：AVS2、帧内编码、快速算法、卷积神经网络

所属期刊栏目：42

分类号：TN919.81

在线出版日期：2019-08-14（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：90-94