标签:
压缩感知问题求稀疏解时,一般采用0范数或者1范数来建立数学模型。那么为什么0范数或1范数可以得到稀疏解呢?
常见的有L0范数、L1范数、L2范数,经常要将L0范数等价为L1范数去求解,因为L1范数求解是一个凸优化问题,而L0范数求解是一个NP难问题。
L0范数指的是x中非零元素的个数,即x的稀疏度,如果x是K稀疏的,则l0范数等于K;
L1范数指的是x中所有元素模值的和;
L2范数指的是x中所有元素模值平方的和 再平方,这个带公式就可以了,它代表着距离的概念;
还有无穷范数,指的是x中元素模的最大值。
在压缩感知里经常提到 "K稀疏" 的概念,这个是很容易理解的:也就是对于长度为N的向量(实际上是指一个N维离散离值信号)来说,它的N个元素值只有K个是非零的,其中K<<N,这时我们称这个向量是K稀疏的或者说是严格K稀疏的;实际中要做到严格K稀疏不容易,一般来说,只要除了这K个值其它的值很小很小,我们就认为向量是稀疏的,这时区别于严格K稀疏且就叫它K稀疏吧。
为什么要谈稀疏这个问题呢?因为如果信号是稀疏的,则它是可压缩的,也就是说里面那么多零,我只记录那些非零值及它的位置就好了。
当然,现实中的信号本身一般并不是稀疏的,但经过一个变换后,在一组基上面是稀疏的,这就是信号的稀疏表示。
稀疏性是压缩感知的前提。
压缩感知的数学模型:
不同范数建立的数学模型的几何表示如下图所示:
Ax=b就是一个线性投影过程,因此在空间中就是一条直线;
而||x||p在空间中则表示为一个几何体,其形状与p有关;
当0<p<1时,Lp球是内凸的,当球的半径逐渐增加时与直线的交点将位于坐标轴,而这样一个点是稀疏的,因为坐标轴上的点,除了所在轴坐标外,其他坐标值均为0;(在N维空间中,坐标轴上的点是稀疏的)
当p=1时,Lp球为菱状,在特定条件下同样会导致一个稀疏解;
当p>1时,Lp求是外凸的,当逐渐膨胀时与图像的切点必不位于坐标轴上,即此时的解是不稀疏的,如L2为圆球。
http://blog.csdn.net/jbb0523/article/details/40268943
标签:
原文地址:http://www.cnblogs.com/AndyJee/p/5047174.html