码迷,mamicode.com
首页 > 其他好文 > 详细

2013 AAAI: Uncorrelated Lasso

时间:2015-01-26 11:39:02      阅读:294      评论:0      收藏:0      [点我收藏+]

标签:

 

Si-Bao Chen, Chris Ding, Bin Luo and Ying Xie. Uncorrelated Lasso. AAAI, 2013.

第一作者是安徽大学陈思宝副教授。

第二作者 Chris Ding 是德克萨斯大学阿灵顿分校的教授,Google Scholar 上他引超过 15700 次。

 

这篇文章考虑 Lasso 做特征选择时特征之间的相关性,使选出来的特征尽量不相关以减少冗余。

优化形式是在原 Lasso 后加入一相关系数矩阵(平方)的凸项,如下图:

技术分享

其中矩阵 C 是相关系数平方的矩阵,是对称半正定的。

当 λ2=0 时,退化为一般的 Lasso;

当 C 为单位阵时,退化为 elastic-net。

 

这个优化形式三部分都是凸的,所以这是个凸问题,有唯一的全局最优解。

文章给出了迭代算法:

技术分享

 

算法的收敛性:证明了目标函数是非增的(non-increasing),即 L(α(t+1)) ≤ L(α(t)) 。

先证明了两个引理。

第一个引理定义了一个辅助函数

技术分享

并证明 G(β(t+1)) ≤ G(β(t))。

第二个引理证明 L(β(t+1)) - L(β(t))  ≤ G(β(t+1)) - G(β(t)).

结合两个引理得出:L(β(t+1)) - L(β(t)) ≤ 0.

 

最后在两个基因数据(Colon Cancer Data 和 Leukemia Dataset)上实验。

 

2013 AAAI: Uncorrelated Lasso

标签:

原文地址:http://www.cnblogs.com/shalijiang/p/4249773.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!