二维DCT变换

https://wuyuans.com/2012/11/dct2/

写这篇文章的目的主要是为了给x264打好基础，x264用的是整数DCT变换，所以就先来说说DCT变换吧。
DCT(Discrete Cosine Transform)，又叫离散余弦变换，它的第二种类型，经常用于信号和图像数据的压缩。经过DCT变换后的数据能量非常集中，一般只有左上角的数值是非零的，也就是能量都集中在离散余弦变换后的直流和低频部分，下面我会用matlab来演示整个过程。

1.一维DCT变换

我们首先来看看一维的DCT变换，这是二维的基础。一维的DCT变换共有8种，其中最实用的是第二种形式，公式如下：其中c(u)是加上去一个系数，为了能使DCT变换矩阵成为正交矩阵，在后面二维变换将看到他的作用。N是f(x)的总数。相比其他几种形式，他的运算还是比较简单的，因此也用的比较广。

2.二维DCT变换

二维DCT变换是在一维的基础上再进行一次DCT变换，这个比较好理解，直接看公式：这里我只讨论两个N相等的情况，也就是数据是方阵的形式，在实际应用中对不是方阵的数据都是先补齐再进行变换的。为了matlab仿真方便点，写成矩阵形式：下面就用matlab来模拟一下，使用随机生成的4x4矩阵作为输入，程序如下：

 

1. clear;
2. clc;
3. X=round(rand(4)*100);%随机生成的数据
4. A=zeros(4);%变换矩阵
5. for i=0:3
6. for j=0:3
7. if i==0
8. a=sqrt(1/4);
9. else
10. a=sqrt(2/4);
11. end
12. A(i+1,j+1)=a*cos(pi*(j+0.5)*i/4);
13. end
14. end
15. Y=A*X*A‘;%DCT变换
16. YY=dct2(X);%用matlab中的函数进行DCT变换

Y是使用上面的公式进行变换，YY是用matlab自带的dct2函数变换，结果是是：

1. X =
2. 61 19 50 20
3. 82 26 61 45
4. 89 90 82 43
5. 93 59 53 97
7. Y =
8. 242.5000 32.1613 22.5000 33.2212
9. -61.8263 7.9246 -10.7344 30.6881
10. -16.5000 -14.7549 22.5000 -6.8770
11. 8.8322 16.6881 -35.0610 -6.9246
13. YY =
14. 242.5000 32.1613 22.5000 33.2212
15. -61.8263 7.9246 -10.7344 30.6881
16. -16.5000 -14.7549 22.5000 -6.8770
17. 8.8322 16.6881 -35.0610 -6.9246

可以看出Y和YY的结果是一样的，这也进一步验证了上面的公式是正确的。由于X是我随机生成的，相关性很小，变换后的结果比较乱；如果是信号或图像这样相关性比较大的数据的话，数值会集中在左上角，右下角一般都是零，再使用“之”字型扫描得到数据流会包含很多连续的零，编码后数据量会非常小，这就是DCT变换带来的好处。

3.二维DCT反变换

DCT逆变换的公式如下：矩阵形式可以由正变换的公式直接推出来，因为在A中加了c(i)这个系数，使得A成为了正交矩阵，所以我们就可以这样做：在用matlab来验证是否能反变换出原来的数据：

 

1. clear;
2. clc;
3. X=[
4. 61 19 50 20
5. 82 26 61 45
6. 89 90 82 43
7. 93 59 53 97];
8. A=zeros(4);
9. for i=0:3
10. for j=0:3
11. if i==0
12. a=sqrt(1/4);
13. else
14. a=sqrt(2/4);
15. end
16. A(i+1,j+1)=a*cos(pi*(j+0.5)*i/4);
17. end
18. end
19. Y=A*X*A‘;
20. X1=A‘*Y*A;

X使用的是上面正变换用的数据，运行后得到的X1为：

1. X1 =
2. 61.0000 19.0000 50.0000 20.0000
3. 82.0000 26.0000 61.0000 45.0000
4. 89.0000 90.0000 82.0000 43.0000
5. 93.0000 59.0000 53.0000 97.0000

和X完全相等。在实际进行编码的时候，比如JPEG压缩的时候，只会对Y左上角的数据进行传输，所以解码出来的内容不会完全和原来的相同。

4.整数DCT变换

说道DCT就顺便提一下x264中的整数DCT变换，整数DCT变换是以DCT变换为基础的，为了减少计算量做的一些调整，下面我写一下整数DCT变换公式的大致推导过程：然后根据A是正交矩阵，把c=bd带入A中，使行向量为单位向量可以得到d=0.4142。令d=0.5，得到b*b=0.4,代入上面的式子中，把0.5提取出来放到右边的点乘中就得到了：这样在对大括号部分进行计算时就都是加法和减法了，而且在精度上没有太大降低。在x264实际编码中，变换和量化是一起进行的，使得编码速度有了很大的提高。