AVS

华Ｊ匕电力人学硕士学位论文

该模块包括整数８×８变换、量化和扫描、反量化和反变换。整个过程以帧内或帧问预测得到的残差块作为输入，通过整数变换、量化和ＺｉａＺｉｇ扫描，得到二维幅值和游程数组并提供给后续熵编码模块；同时，对量化后的系数进行反量化和反变换，利用其结果和先前计算的残差信号重建原始图像，作为帧Ｉ’日Ｊ编码时的参考图像使用。该模块共包含五个实现函数：前向８×８整数变换ｆｄｃｔ８ｘ８（ｉｎｔｌ６ｔ奉ｄａｔａ）、量化ｑｕａｎｔ８ｘ８（ｉｎｔｌ６＿ｔ｝ｄａｔａ，ｃｏｎｓｔｉｎｔ３２．ｔＱｐ，ｉｎｔ３２＿ｔｉＳｊｎｔｒａ）、反变换ｉｄｃｔ８ｘ８（ｉｎｔｌ６－ｔ事ｄａｔａ）、反量化ｉｑｕａｎｔ８ｘ８（ｉｎｔｌ６一ｔ宰ｄａｔａ，ｃｏｎｓｔｉｎｔ３２＿ｔＱｐ）和扫描ｓｃａｎ—ｚｉｇ＿８ｘ８（ｉｎｔｌ６一ｔ木ｌｅＶｅｌ，ｉｎｔ１６一ｔ母ｒｕｎ，ｉｎｔ１６－ｔ牛ｄａｔａ）。

ＡｖＳ的８ｘ８整数变换采用了一维８点蝶形快速算法，量化主要通过尺度变换结合查表操作实现。该模块的算法步骤如下：

１．编码过程中，对输入残差矩阵Ｘ进行如下二维正变换：

ｙ＝（砑汀７’）＞＞５

其中，ｒ为变换矩阵，ｙ为输出矩阵。（２．１）

将残差矩阵扩大３２倍，残差数据比较小，扩大３２倍是为了提高其量化精度。

２．将正变换输出系数矩阵先与尺度缩放矩阵玩的元素对应相乘，结果右移１９位，再通过量化参数妒查找量化表得到Ｑ＿忍６昆［ＱＰ】，与尺度缩放后的结果相乘，再右移ｌ５位，保证量化输出结果在１６位以内。

硇ｆ√）＝｛［（Ｉ巧，＿，）Ｉ鲫’（，，／）＋（１＜＜ｌ８））＞＞ｌ９】木Ｑ一砌６ＨＱ同＋力＞＞１５（２－２）

式（２—２）中，输出矩阵为坦，每个元素阳Ⅳ∥的符号与玮∥相同；Ｅ８’是尺度缩放的调整矩阵，在程序中已经设计成了查找表；ｆ足改善图像视觉效果的偏移量，当Ｉ帧时，ｆ＝（１＜＜１５）×ｌＯ／３ｌ，当Ｐ帧时，ｆ＿（１＜＜１５）×１０／６２；陡勋６，Ｐ［ＱＰ】的值足１６位的无符号数，在程序中通过查表提时得到。

３．反量化时的输出矩阵为ｙ’，，Ｑ一勋６，Ｐ为反量化表，舶泸是与ＱＰ相对应的位移表，反量化公式为：

‰＝（玛ｕ）坦一死６Ｍ妒】）＞＞鼬纠Ｑ尸】

４．反变换可以表示为：（２－３）

ｘ‘＝｛ｒｒ［（】，’ｒ）＞＞３】）＞＞７（２．４）

为了节省编码时间和码流，在该模块中我们对量化后的系数进行了门限处理。８