1 引言 1.1 维度灾难 分类为例:如最近邻分类方法(基本思想:以最近的格子投票分类) 问题:当数据维度增大,分类空间爆炸增长。如图1所示, 图1 维度增加示意图 1.2 解决方法 缓解维度遭难的一个重用途径是降维。降维是通过某种数学变换,将原始高维属性空间转换为一个低维“子空间”,在这个子空间中 ...
分类:
其他好文 时间:
2018-08-21 22:33:04
阅读次数:
302
拉格朗日乘数法 拉格朗日乘数法是一个理论结果,用于求解带有等式约束的函数极值。对于如下问题: 构造拉格朗日乘子函数: 在最优点处对x和乘子变量的导数都必须为0: 解这个方程即可得到最优解。对拉格朗日乘数法更详细的讲解可以阅读任何一本高等数学教材。 机器学习中用到拉格朗日乘数法的地方有: 主成分分析 ...
分类:
其他好文 时间:
2018-08-21 12:15:32
阅读次数:
135
使用sklearn库中的PCA类进行主成分分析。 导入要用到的库,还没有的直接pip安装就好了。 PCA类的主要输入参数有以下几个: n_components :这个参数可以帮我们指定希望PCA降维后的特征维度数目。 最常用的做法是直接 指定降维到的维度数目 ,此时n_components是一个大于 ...
分类:
编程语言 时间:
2018-08-15 17:47:56
阅读次数:
758
1.机器学习相关算法: 线性回归、K-means、决策树、随机森林、主成分分析、支持向量机,强化学习,贝叶斯网络 线性回归:解决数据预测问题,曲线弥合,已知{x1,x2,x3,...} , {y1,y2,y3,...} , 用一条曲线描述已知点的规律。 常用:最小二乘法。 K-means : 用距离 ...
分类:
其他好文 时间:
2018-08-12 17:36:49
阅读次数:
183
一 摘要 在本文中,我们提出了一个非常简单的图像分类深度学习框架,它主要依赖几个基本的数据处理方法:1)级联主成分分析(PCA);2)二值化哈希编码;3)分块直方图。在所提出的框架中,首先通过PCA方法学习多层滤波器核,然后使用二值化哈希编码以及分块直方图特征来进行下采样和编码。因此,该框架称为PC ...
分类:
Web程序 时间:
2018-08-06 15:18:17
阅读次数:
329
目前人脸检测方法主要分为两大类,基于知识和基于统计。 基于知识的人脸检测方法主要包括:模板匹配,人脸特征,形状与边缘,纹理特征,颜色特征。 基于统计的人脸检测方法主要包括:主成分分析与特征脸法,神经网络模型,隐马尔可夫模型,支持向量机,Adaboost算法。 基于知识的方法将人脸看成不同特征的特定组 ...
分类:
其他好文 时间:
2018-08-01 22:18:46
阅读次数:
686
调用自己写的朴素贝叶斯函数正确率是84.12%,调用sklearn中的BernoulliNB函数,正确率是84.27% 调用sklearn中的BernoulliNB函数的代码如下: 结果截屏: 优化:加入主成分分析方法,进行降维操作,代码如下: 结果截屏: 待修改中! 参考链接;https://bl ...
分类:
编程语言 时间:
2018-07-28 18:21:54
阅读次数:
345
一、主成分分析 二、因子分析法 三、聚类分析 四、最小二乘与多项式拟合 五、方差分析法 六、逼近理想点排序法 七、动态加权法 八、灰色关联分析法 九、灰色预测法 十、模糊综合评价法 十一、时间序列分析法 十二、蒙特卡洛仿真模型 十三、BP神经网络方法 十四、数据包络分析法 十五、多因素方差分析法(基 ...
分类:
编程语言 时间:
2018-07-21 14:30:16
阅读次数:
145
1.PCA原理 主成分分析(Principal Component Analysis,PCA), 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量,转换后的这组变量叫主成分。 PCA算法: 2.PCA的实现 数据集: 64维的手写数字图像 代码: 运行结果: 1)将数 ...
分类:
编程语言 时间:
2018-07-19 13:43:53
阅读次数:
321
@(131 Machine Learning | 机器学习) PCA是一种特征选择方法,可将一组相关变量转变成一组基础正交变量 25 PCA的回顾和定义 Demo: when to use PCA 1. latent features driving the patterns in the data ...
分类:
其他好文 时间:
2018-07-18 20:28:28
阅读次数:
146