k临近算法(kNN)采用测量不同特征值之间的距离方法进行分类，也是一种非常直观的方法。本文主要记录了使用kNN算法改进约会网站的例子。任务一：分类算法classify0
就是使用距离公式计算特征值之间的距离，选择最邻近的k个点，通过统计这k个点的结果来得出样本的预测值。
tile函数用法在这里
argsort函数在这里def classify0(inX,dataset,labels,k):...
分类：
其他好文 时间：
2015-04-10 22:36:02
阅读次数：
233
PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。 内容： PCA （主成份分析）是一种直接的降维方法，通过求解特征值与特征向量，并选取特征值较大的一些特征向量来达到降维的效果； PCA 的一个应用——LSI(Latent Semantic Indexing, 隐含语义...
分类：
其他好文 时间：
2015-04-10 22:21:55
阅读次数：
371
首先确实是觉得这篇文章写得很好，后面的附录也是非常值得一看
整体框架转自
http://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html
中间穿插一些自己的理解的部分
前言：
PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。在上篇...
分类：
其他好文 时间：
2015-04-10 13:35:58
阅读次数：
218
转载：http://www.360doc.com/content/10/0318/20/1024901_19297267.shtml
分类：
编程语言 时间：
2015-04-06 23:12:36
阅读次数：
172
一、简介
PCA（Principal Components Analysis）即主成分分析，是图像处理中经常用到的降维方法，大家知道，我们在处理有关数字图像处理方面的问题时，比如经常用的图像的查询问题，在一个几万或者几百万甚至更大的数据库中查询一幅相近的图像。这时，我们通常的方法是对图像库中的图片提取响应的特征，如颜色，纹理，sift，surf，vlad等等特征，然后将其保存，建...
分类：
其他好文 时间：
2015-04-04 22:38:35
阅读次数：
205
主成分分析（Principal Component Analysis，PCA）是将多个变量通过线性变换以选出较少几个重要变量的多元统计分析方法。
原理：在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析...
分类：
其他好文 时间：
2015-04-04 00:02:08
阅读次数：
371
这是UFLDL的编程练习。具体教程参照官网。PCAPCA will find the priciple direction and the secodary direction in 2-dimention examples.
then
x~(i)=x(i)rot,1=uT1x(i)∈R.\begin{align}
\tilde{x}^{(i)} = x_{{\rm rot},1}^{(i)}...
分类：
其他好文 时间：
2015-04-03 09:31:01
阅读次数：
326
降维技术使得数据变得更易使用，并且它们往往能够去除数据中的噪声，使得机器学习任务往往更加精确。降维往往作为预处理步骤，在数据应用到其它算法之前清洗数据。有很多技术可以用于数据降维，在这些技术中，独立成分分析（Independent Component Analysis, ICA）、因子分析（Fact...
分类：
其他好文 时间：
2015-03-31 19:52:57
阅读次数：
444
主成份分析(Principle Component Analysis)主要用来对数据进行降维。对于高维数据，处理起来比较麻烦，而且高维数据可能含有相关的维度，数据存在冗余，PCA通过把高维数据向低维映射的同时尽可能保留数据蕴含的信息，到达简化数据的目的。假设原始数据表示为$\{{{x}_{1}},{...
分类：
其他好文 时间：
2015-03-30 22:37:24
阅读次数：
146
起源：自动编码器单自动编码器，充其量也就是个强化补丁版PCA，只用一次好不过瘾。于是Bengio等人在2007年的 Greedy Layer-Wise Training of Deep Networks中，仿照stacked RBM构成的DBN，提出Stacked AutoEncoder，为非监督学...
分类：
Web程序 时间：
2015-03-30 18:13:46
阅读次数：
217
