码迷,mamicode.com
首页 > 其他好文 > 详细

浅谈压缩感知(九):范数与稀疏性

时间:2015-12-15 10:23:07      阅读:365      评论:0      收藏:0      [点我收藏+]

标签:

问题:

压缩感知问题求稀疏解时,一般采用0范数或者1范数来建立数学模型。那么为什么0范数或1范数可以得到稀疏解呢?

解释与分析:

1、范数

技术分享

常见的有L0范数、L1范数、L2范数,经常要将L0范数等价为L1范数去求解,因为L1范数求解是一个凸优化问题,而L0范数求解是一个NP难问题。

L0范数指的是x中非零元素的个数,即x的稀疏度,如果x是K稀疏的,则l0范数等于K;

L1范数指的是x中所有元素模值的和;

L2范数指的是x中所有元素模值平方的和 再平方,这个带公式就可以了,它代表着距离的概念;

还有无穷范数,指的是x中元素模的最大值。

2、稀疏性

在压缩感知里经常提到 "K稀疏" 的概念,这个是很容易理解的:也就是对于长度为N的向量(实际上是指一个N维离散离值信号)来说,它的N个元素值只有K个是非零的,其中K<<N,这时我们称这个向量是K稀疏的或者说是严格K稀疏的;实际中要做到严格K稀疏不容易,一般来说,只要除了这K个值其它的值很小很小,我们就认为向量是稀疏的,这时区别于严格K稀疏且就叫它K稀疏吧。

为什么要谈稀疏这个问题呢?因为如果信号是稀疏的,则它是可压缩的,也就是说里面那么多零,我只记录那些非零值及它的位置就好了。

当然,现实中的信号本身一般并不是稀疏的,但经过一个变换后,在一组基上面是稀疏的,这就是信号的稀疏表示。

稀疏性是压缩感知的前提。

3、范数与稀疏性的关系

压缩感知的数学模型:

技术分享

技术分享

技术分享

不同范数建立的数学模型的几何表示如下图所示:

Ax=b就是一个线性投影过程,因此在空间中就是一条直线;

而||x||p在空间中则表示为一个几何体,其形状与p有关;

当0<p<1时,Lp球是内凸的,当球的半径逐渐增加时与直线的交点将位于坐标轴,而这样一个点是稀疏的,因为坐标轴上的点,除了所在轴坐标外,其他坐标值均为0;(在N维空间中,坐标轴上的点是稀疏的)

当p=1时,Lp球为菱状,在特定条件下同样会导致一个稀疏解;

当p>1时,Lp求是外凸的,当逐渐膨胀时与图像的切点必不位于坐标轴上,即此时的解是不稀疏的,如L2为圆球。

技术分享

参考:

http://blog.csdn.net/jbb0523/article/details/40268943

浅谈压缩感知(九):范数与稀疏性

标签:

原文地址:http://www.cnblogs.com/AndyJee/p/5047174.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!