码迷,mamicode.com
首页 > 其他好文 > 详细

LDA/PCA

时间:2016-10-29 21:45:39      阅读:242      评论:0      收藏:0      [点我收藏+]

标签:期望   nbsp   存在   分类   目标   预测   标签   cti   集中   

LDA(Linear Discriminant Analysis 线性判别分析),是一种监督学习。将带上标签的数据(点),通过投影的方法,投影到维度更低的空间中,使得投影后的点,会形成按类别区分,一簇一簇的情况,相同类别的点,将会在投影后的空间中更接近。LDA是一种线性分类器。分类的目标是,使得类别内的点距离越近越好(集中),类别间的点越远越好。

PCA(主成分分析):LDA的输入数据是带标签的,而PCA的输入数据是不带标签的,所以PCA是一种无监督学习。LDA通常来说是作为一个独立的算法存在,给定了训练数据后,将会得到一系列的判别函数(discriminate function),之后对于新的输入,就可以进行预测了。而PCA更像是一个预处理的方法,目标是通过某种线性投影,将高维的数据映射到低维的空间中表示,并期望在所投影的维度上数据的方差最大,以此使用较少的数据维度,同时保留住较多的原数据点的特性。PCA追求的是在降维之后能够最大化保持数据的内在信息,并通过衡量在投影方向上的数据方差的大小来衡量该方向的重要性。但是这样投影以后对数据的区分作用并不大,反而可能使得数据点揉杂在一起无法区分。这也是PCA存在的最大一个问题,这导致使用PCA在很多情况下的分类效果并不好。

LDA/PCA

标签:期望   nbsp   存在   分类   目标   预测   标签   cti   集中   

原文地址:http://www.cnblogs.com/yujing611033/p/6011731.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!