主成分分析原理与实现 主成分分析是一种矩阵的压缩算法，在减少矩阵维数的同时尽可能的保留原矩阵的信息，简单来说就是将 $n×m$的矩阵转换成$n×k$的矩阵，仅保留矩阵中所存在的主要特性，从而可以大大节省空间和数据量。最近课上学到这个知识，感觉很有意思，就在网上找一些博客进行学 ...
分类：
其他好文 时间：
2019-07-23 23:55:56
阅读次数：
266
前言：机器学习所使用的数据大多具有很多的特征，想要直观的对数据的分布和特征之间的关系进行观测，需要将数据的主要特征提取出来，降低到三维及三维以下的空间来展示。 PCA(主成分分析)是常用的用于降维的方法，本文通过PCA对数据进行降维，再对降维后的数据用K-means算法聚类，以达到在低维空间可直观观 ...
分类：
其他好文 时间：
2019-07-19 21:20:35
阅读次数：
141
在主成分分析（PCA）原理总结中，我们对主成分分析(以下简称PCA)的原理做了总结，下面我们就总结下如何使用scikit-learn工具来进行PCA降维。# 一、scikit-learn PCA类介绍 在scikit-learn中，与PCA相关的类都在sklearn.decomposition包中。... ...
分类：
其他好文 时间：
2019-07-19 19:03:33
阅读次数：
95
主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。一般我们提到降维最容易想到的算法就是PCA，下面我们就对PCA的原理做一个总结。# 一、PCA的思想 PCA顾名思义，就是找出数据里最... ...
分类：
其他好文 时间：
2019-07-19 18:45:47
阅读次数：
84
超高维度分析，N*P的矩阵，N为样本个数，P为指标，N<<P PCA:抓住对y对重要的影响因素 主要有三种：PCA,因子分析，回归方程+惩罚函数（如LASSO） 为了降维，用更少的变量解决问题，如果是二维的，那么就是找到一条线，要使这些点再线上的投影最大，投影最大，就是越分散，就考虑方差最大。 ...
分类：
编程语言 时间：
2019-07-11 12:44:28
阅读次数：
144
设有$m$个指标，$n$个样本的原始数据 1. 将原始数据按列组成矩阵 $X _ { n \times m }$ 2. 将$X$ 的每一列进行中心化 3. 求$X$的协方差矩阵$\Sigma _ { X } = \frac { 1 } { n 1 } X ^ { T } X$ 4. 求出 $\Sig ...
分类：
编程语言 时间：
2019-07-06 09:13:50
阅读次数：
137
一、 高维数据降维 高维数据降维是指采取某种映射方法，降低随机变量的数量。例如将数据点从高维空间映射到低维空间中，从而实现维度减少。降维分为特征选择和特征提取两类，前者是从含有冗余信息以及噪声信息的数据中找出主要变量，后者是去掉原来数据，生成新的变量，可以寻找数据内部的本质结构特征。 简要来说，就是 ...
分类：
其他好文 时间：
2019-06-24 23:59:50
阅读次数：
250
0０ 个人总结 PCA(主成分分析法)目的： 1.降低特征间个数，减少的计算量 2.降低特征之间的相关性，使特征之间更加的独立 3.减少噪声对数据的影响，使模型更加的稳定 4.方便数据的可视化 简单步骤： 1.对数据进行零均值化处理 2.计算协方差矩阵 3.计算特征值和特征向量 4.找到n个特征值和 ...
分类：
其他好文 时间：
2019-06-09 13:13:10
阅读次数：
109
利用PCA主成分分析法对数据进行降维 原理 : 我们一般使用数据降维来降低模型的复杂度,把数据集从一个散点组成的面变成一条直线,也就是从二维变成了一维,这就是数据降维,而其中用到的方法就是主成分分析法(Principal Component Analysis ,PCA) 1.导入数据集并用Stand ...
分类：
其他好文 时间：
2019-05-28 11:07:43
阅读次数：
126
十九、总结(Conclusion) 19.1 总结和致谢 参考视频: 19 1 Summary and Thank You (5 min).mkv 欢迎来到《机器学习》课的最后一段视频。我们已经一起学习很长一段时间了。在最后这段视频中，我想快速地回顾一下这门课的主要内容，然后简单说几句想说的话。 作 ...
分类：
其他好文 时间：
2019-05-19 23:17:35
阅读次数：
145
