压缩感知原理及其代表应用


压缩感知(Compressed Sensing)的研究最早起源于2006年Donoho [1]和Cand´es, Romberg, Tao[2]发表的两篇突破性论文。如今,该理论已经被广泛应用于各个行业和领域。为什么要被叫做压缩感知呢?到今天来看,非常感叹当初创造这个理论时大佬的灵光一现,起了一个听起来非常恰当的名字。Compressed Sensing也可以被叫做Compressed Sampling,即压缩采样。CS是一种能够突破香农的奈奎斯特采样定理,通过利用信号的稀疏特性以远小于原始信号的测量值,高精度重建原始信号的方法,也即压缩就是压缩信号,感知就是恢复信号。


用一张非常经典的图来展示整个压缩感知的过程,其中X就是信号的稀疏表示,原始信号X映射在N×N的稀疏基Ψ上得到s。s是一个稀疏度为K的一维向量,Φ是M×N的测量矩阵(测量矩阵有很多,一般我们使用高斯随机矩阵),Θ=Φ×Ψ就是M×N的传感矩阵。y则是经过压缩后所得到的M×1的测量值。这里的M<<N。


压缩感知原理及其代表应用_java


谈完了压缩,我们再来说一说恢复。截止2021年的今天,用于压缩感知恢复的方法非常多。今天为了更好的去观察压缩感知的优势,我们使用经典方法正交匹配追踪(OMP)[3] 算法来做简单的仿真实验。


用于测试的数据集为MNIST手写数字。

压缩感知原理及其代表应用_java_02

由于原始数据是灰度值图像,每个像素点的数据在0-255之间,为了方便分析,我们将其归一化,并将其向量化。

压缩感知原理及其代表应用_java_03

可以发现,MNIST数据集中的数据符合稀疏特性。为了增大恢复的难度,我们可以为其添加高斯白噪声(噪声功率为10dB)。

压缩感知原理及其代表应用_java_04

接着,我们使用CS对其进行压缩,并使用OMP进行恢复。原始信道的长度为784,我们设定测量值的长度分别为500,400,300,200和100。


压缩感知原理及其代表应用_java_05

从上至下分别是500-100。可以发现在存在噪声的情况下,当测量值为200时,仅仅有一些痕迹,在100时完全失效。压缩感知依然存在一定的上限。感兴趣的同学可以对其背后的数学原理进行分析。


参考文献

[1]D. L. Donoho, "Compressed sensing," in IEEE Transactions on Information Theory, vol. 52, no. 4, pp. 1289-1306, April 2006, doi: 10.1109/TIT.2006.871582.


[2]E. J. Candès, J. Romberg, and T. Tao, “Stable signal recovery fromincomplete and inaccurate measurements,” Comm. Pure Appl. Math.,vol. 59, pp. 1207–1223, 2006.


[3]T. T. Cai and L. Wang, "Orthogonal Matching Pursuit for Sparse Signal Recovery With Noise," in IEEE Transactions on Information Theory, vol. 57, no. 7, pp. 4680-4688, July 2011.


压缩感知原理及其代表应用_java_06                    




压缩感知原理及其代表应用_java_07

  



扫描二维码

获取更多精彩

WCTL@CQU

压缩感知原理及其代表应用_java_08