码迷,mamicode.com
首页 > 其他好文 > 详细

线性鉴别分析(LDA)之二分类问题

时间:2014-04-29 13:26:22      阅读:273      评论:0      收藏:0      [点我收藏+]

标签:机器学习   lda   线性鉴别分析   模式识别   

线性鉴别分析是有监督的学习方法。

已知数据集

mamicode.com,码迷

子集mamicode.com,码迷mamicode.com,码迷,满足mamicode.com,码迷mamicode.com,码迷中的数据属于mamicode.com,码迷类,mamicode.com,码迷中的数据属于mamicode.com,码迷类。

定义两个子集的平均值:

         mamicode.com,码迷mamicode.com,码迷

已知向量mamicode.com,码迷,我们定义:

mamicode.com,码迷mamicode.com,码迷mamicode.com,码迷


显然存在以下关系:

mamicode.com,码迷mamicode.com,码迷mamicode.com,码迷

我们接着定义标准差mamicode.com,码迷mamicode.com,码迷,其中

mamicode.com,码迷mamicode.com,码迷

下面我们换算一下上面的两个方差公式:

mamicode.com,码迷mamicode.com,码迷

其中:

mamicode.com,码迷mamicode.com,码迷

定义类内散布矩阵mamicode.com,码迷

mamicode.com,码迷

定义类间散布矩阵mamicode.com,码迷

mamicode.com,码迷

————————————————————————————————————————————————————————————————————————————
有了以上的定义准则函数:
mamicode.com,码迷
然后寻找mamicode.com,码迷,最大化这个准则函数。对准则函数求导,我们发现
mamicode.com,码迷
而且mamicode.com,码迷mamicode.com,码迷是平行的。结合这两点我们发现,只要找的mamicode.com,码迷,满足mamicode.com,码迷mamicode.com,码迷平行即可。如果mamicode.com,码迷是非奇异的,那么我们可以取
mamicode.com,码迷
即可。
————————————————————————————————————————————————————————————————————————————
求出mamicode.com,码迷后,我们对新的数据mamicode.com,码迷进行预测,预测公式为:
mamicode.com,码迷


线性鉴别分析(LDA)之二分类问题

标签:机器学习   lda   线性鉴别分析   模式识别   

原文地址:http://blog.csdn.net/zhangping1987/article/details/24691247

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!