降维算法应用：数据压缩、数据可视化。 主成分分析(PCA)是最常见的降维算法。 在 PCA 中，我们要做的是找到一个方向向量（Vector direction），当我们把所有的数据 都投射到该向量上时，我们希望投射平均均方误差能尽可能地小。方向向量是一个经过原点 的向量，而投射误差是从特征向量向该方 ...
分类：
其他好文 时间：
2019-08-16 00:53:54
阅读次数：
145
奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SV... ...
分类：
其他好文 时间：
2019-07-19 19:01:10
阅读次数：
106
一、 高维数据降维 高维数据降维是指采取某种映射方法，降低随机变量的数量。例如将数据点从高维空间映射到低维空间中，从而实现维度减少。降维分为特征选择和特征提取两类，前者是从含有冗余信息以及噪声信息的数据中找出主要变量，后者是去掉原来数据，生成新的变量，可以寻找数据内部的本质结构特征。 简要来说，就是 ...
分类：
其他好文 时间：
2019-06-24 23:59:50
阅读次数：
250
sklearn中的降维算法PCA和SVD 1 概述 1.1 从什么叫“维度”说开来 1.2 sklearn中的降维算法 2 PCA与SVD 2.1 降维究竟是怎样实现？ 2.2 重要参数n_components 2.2.1 迷你案例：高维数据的可视化 2.2.2 最大似然估计自选超参数 2.2.3 ...
分类：
编程语言 时间：
2019-03-19 10:41:12
阅读次数：
1183
在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了 ...
分类：
其他好文 时间：
2019-01-27 14:40:27
阅读次数：
181
在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了 ...
分类：
其他好文 时间：
2019-01-27 14:33:22
阅读次数：
206
在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了 ...
分类：
其他好文 时间：
2019-01-27 13:12:10
阅读次数：
265
PCA和LDA都是降维算法，他们的主要区别是： PCA为无监督方法，主要是主成分分析方法，Principal Component Analysis， 简称PCA。 PCA可以降到任意维度。 LDA是有监督方法，主要是线性判别分析法，Linear Discriminant Analysis ，简称LD ...
分类：
其他好文 时间：
2019-01-13 02:01:09
阅读次数：
163
一个非常常见的问题就是遇到的数据是多维度数据，维度过高会导致模型极度的复杂，折衷的法案就是降维，然后再Q聚类、分类、回归。降维强调在不损失准确性的前提下来降低维度（选出最优特征） PCA是最常见降维算法，它寻找线性不相关的特征子集（主要因子），另外还有LDA（Linear Discriminant ...
分类：
其他好文 时间：
2018-10-19 16:07:30
阅读次数：
296
PCA主成分分析算法，是一种线性降维，将高维坐标系映射到低维坐标系中。 如何选择低维坐标系呢？ 通过协方差矩阵的特征值和特征向量，特征向量代表坐标系，特征值代表映射到新坐标的长度。 算法步骤： 输入：样本集D={x1,x2,...,xm}； 低维空间维数k 第一步：将样本集中心化。每一列的特征值减去 ...
分类：
编程语言 时间：
2018-09-21 18:27:36
阅读次数：
224
