码迷,mamicode.com
首页 > 其他好文 > 详细

MapReduce----并行支持向量机(PSVM)第二部分之原始对偶内点法

时间:2014-06-08 03:51:35      阅读:272      评论:0      收藏:0      [点我收藏+]

标签:并行支持向量机   svm   机器学习   分布式   mapreduce   

纠错张智威老师关于并行支持向量机的文章:

《PSVM:Parallelizing Support Vector Machines on Distributed Computers》,

在并行原始对偶内点算法中,迭代步长的符号非常混乱,所以,我这里又重新解了一遍。

—————————————————————————————————————————————————————

支持向量机的原问题的对偶问题模型:

bubuko.com,布布扣

bubuko.com,布布扣     bubuko.com,布布扣

       bubuko.com,布布扣

其中:

bubuko.com,布布扣bubuko.com,布布扣bubuko.com,布布扣bubuko.com,布布扣bubuko.com,布布扣

我们把上述模型,变成用原始对偶问题求解凸二次规划问题的标准形式:

bubuko.com,布布扣


bubuko.com,布布扣            bubuko.com,布布扣


bubuko.com,布布扣


bubuko.com,布布扣

下面给出上述模型的Lagrange函数:

bubuko.com,布布扣

然后,我们给出上述最优化问题最优解满足的kuhn-Tucker条件:

bubuko.com,布布扣

其中:


bubuko.com,布布扣bubuko.com,布布扣bubuko.com,布布扣

下面给出扰动的Kuhn_Tucker条件:

bubuko.com,布布扣

原始对偶内点法就是用Newton法解上面的扰动的Kuhn_Tucker条件,通过下式求解迭代步长bubuko.com,布布扣

bubuko.com,布布扣

第一步求解bubuko.com,布布扣,通过第三式求解:

bubuko.com,布布扣

bubuko.com,布布扣

第二步求解bubuko.com,布布扣,通过第四式求解:

bubuko.com,布布扣

bubuko.com,布布扣

第三步求解bubuko.com,布布扣,通过第一式求解:

bubuko.com,布布扣

通过第二式得到bubuko.com,布布扣,即:bubuko.com,布布扣,又根据bubuko.com,布布扣bubuko.com,布布扣得:

bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

我们令:

bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

则可简化为:

bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

则:

bubuko.com,布布扣

第四步求解bubuko.com,布布扣,通过第一式求解:

bubuko.com,布布扣

bubuko.com,布布扣

利用上面的表示方法,我们得到:

bubuko.com,布布扣

bubuko.com,布布扣

至此,我们计算出了迭代步长。

MapReduce----并行支持向量机(PSVM)第二部分之原始对偶内点法,布布扣,bubuko.com

MapReduce----并行支持向量机(PSVM)第二部分之原始对偶内点法

标签:并行支持向量机   svm   机器学习   分布式   mapreduce   

原文地址:http://blog.csdn.net/zhangping1987/article/details/29187865

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!