H.264变换和量化的算法优化及定制指令实现

摘要：

针对H.264基于二维离散余弦变换的整数变换和量化模块,提出一种高性能的定制指令实现方案.通过分析整数变换和量化算法的运算复杂度,采用了优化调度算法和减少关键路径运算级数的方法,以定制指令方式实现了变换和反变换、量化和反量化的算法.编解码算法均通过了功能级的码流测试,在UMC的0.13μm工艺下综合得到的电路面积为12021个逻辑门,经JVT参考测试码流的测试,表明了设计满足在200MHz主频、VGA图像分辨率下30fps的处理速度,该定制指令的实现方案兼顾了灵活性和实时性两方面的要求.

关键词：整数变换、量化、H.264、定制指令

所属期刊栏目：30

分类号：TP337(计算技术、计算机技术)

在线出版日期：2009-06-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：1220-1224