1. PCA优缺点 利用PCA达到降维目的，避免高维灾难。 PCA把所有样本当作一个整体处理，忽略了类别属性，所以其丢掉的某些属性可能正好包含了重要的分类信息 2. PCA原理 条件1：给定一个m*n的数据矩阵D， 其协方差矩阵为S. 如果D经过预处理， 使得每个每个属性的均值均为0， 则有S=DT ...
分类：
编程语言 时间：
2018-09-12 13:54:53
阅读次数：
605
pca是一种黑箱子式的降维方式，通过映射，希望投影后的数据尽可能的分散， 因此要保证映射后的方差尽可能大，下一个映射的方向与当前映射方向正交 pca的步骤： 第一步: 首先要对当前数据(去均值)求协方差矩阵，协方差矩阵= 数据*数据的转置/(m-1) m表示的列数，对角线上表示的是方差，其他位置表示 ...
分类：
编程语言 时间：
2018-08-24 22:53:42
阅读次数：
245
"参考博客:沈春旭的博客" 1.前言 看论文的时候又看到了协方差矩阵这个破东西，以前看图像处理的书籍的时候就特困扰，没想到现在还是搞不清楚，索性开始查协方差矩阵的资料，恶补之后决定马上记录下来。 2.拼出身—统计学的定义 学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标 ...
分类：
其他好文 时间：
2018-08-21 19:43:33
阅读次数：
124
距离判别法与R程序实战 2016-03-12 18:21:48 距离判别法与R程序实战 2016-03-12 18:21:48 设mu1,mu2,cov1,cov2 分别是总体G1，G2的均值向量和协方差矩阵。一样品x到各总体的马氏距离为 D(x,G1)=mahalanobis(x,mu1,cov1 ...
分类：
其他好文 时间：
2018-08-14 14:44:30
阅读次数：
165
统计基础概念 在多元变量分析中，我们考虑所有的 $d$ 个数值型属性 $X_1, \cdots, X_d$。整个数据集是一个 $n \times d$ 的矩阵，即（ 数据矩阵 ）： $$ D = \left[ \begin{array}{c|llll} & X_1 & X_2 & \cdots & ...
分类：
其他好文 时间：
2018-07-21 00:13:52
阅读次数：
202
原文地址：http://pinkyjie.com/2010/08/31/covariance/ 今天看论文的时候又看到了协方差矩阵这个破东西，以前看模式分类的时候就特困扰，没想到现在还是搞不清楚，索性开始查协方差矩阵的资料，恶补之后决定马上记录下来，嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵 ...
分类：
其他好文 时间：
2018-07-16 11:26:31
阅读次数：
163
协方差矩阵 以两个随机变量来描述 协方差性质 协方差为正时，两个变量的变化方向一致，正相关 协方差为负时，两个变量的变化方向相反，负相关 协方差为零时，不相关 定义 协方差 $$Cov(x,y) = \frac{1}{n}\sum_{i=1}^{n}(x_i \bar{x}) (y_i \bar{y ...
分类：
其他好文 时间：
2018-06-17 01:05:35
阅读次数：
212
摘录自：邹博《机器学习升级版》课件 1. 概率论基础 1.初步认识 2.古典概型 3.生日悖论 生日悖论（Birthday paradox）是指，如果一个房间里有23个或23个以上的人，那么至少有两个人的生日相同的概率要大于50%。这就意味着在一个典型的标准小学班级(30人)中，存在两人生日相同的可 ...
分类：
其他好文 时间：
2018-06-10 22:11:06
阅读次数：
388
主成分分析PCA算法：为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是“投影”？ https://www.zhihu.com/question/30094611 还有一些疑问：1.这个散步函数是怎么回事，好像和定义不一样！ ...
分类：
其他好文 时间：
2018-05-25 22:48:28
阅读次数：
196
注意协方差的理解：协方差是用来衡量数据相互联系程度的量，协方差矩阵是用来衡量多维数据中每一维的相互联系 通过协方差计算数据中的主要成分 从而主成分分析。 机器学习实战 PCA程序 ...
分类：
其他好文 时间：
2018-05-22 22:12:57
阅读次数：
169
