机器学习中常常要用到分类算法，在诸多的分类算法中有一种算法名为k-近邻算法，也称为kNN算法。
一、kNN算法的工作原理
二、适用情况
三、算法实例及讲解
---1.收集数据
---2.准备数据
---3.设计算法分析数据
---4.测试算法
一、kNN算法的工作原理
官方解释：存在一个样本数据集，也称作训练样本集，并且样本中每个数据都存在标签，即我们知道样...
分类：
编程语言 时间：
2015-01-26 15:11:47
阅读次数：
304
机器学习中常常要用到分类算法，在诸多的分类算法中有一种算法名为k-近邻算法，也称为kNN算法。一、kNN算法的工作原理二、适用情况三、算法实例及讲解 ---1.收集数据 ---2.准备数据 ---3.设计算法分析数据 ---4.测试算法一、kNN算法的工作原理官方解释：存在一个样本数据集，也...
分类：
编程语言 时间：
2015-01-26 14:54:34
阅读次数：
267
1 ################################################## 2 # kNN : k Nearest Neighbour 3 # Author : Monne 4 # Date : 2015-01-24 5 # Email : 41660663...
分类：
编程语言 时间：
2015-01-24 22:35:49
阅读次数：
176
本文是stanford大学课程：Convolutional Neural Networks for Visual Recognition 的一些笔记与第一次作业。主要内容为简单（多类）分类器的实现：KNN, SVM, softmax。softmax与SVM的一点区别，其中一张PPT说明：KNN部分框...
分类：
编程语言 时间：
2015-01-18 02:01:23
阅读次数：
1137
Python实现KNN算法
KNN算法的实际用处很多，主要用于分类阶段，是一个基础的分类算法。KNN主要基于距离的计算，一般可以在原始的欧氏空间中计算样本之间的距离。改进版本有：先特征提取到一个更加鉴别的空间中，然后计算距离；或者先使用metric learning度量学习的技术来获得一个鉴别的度量空间，然后计算样本间的马氏距离。
不管怎么说，KNN在很多算法的分类阶段都可以用到，我们这里用python实现KNN。...
分类：
编程语言 时间：
2015-01-16 19:19:41
阅读次数：
233
国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 2006年12月评选出了数据挖掘领域的十大经典算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, N...
分类：
编程语言 时间：
2015-01-13 01:22:53
阅读次数：
246
国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 2006年12月评选出了数据挖掘领域的十大经典算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, N...
分类：
编程语言 时间：
2015-01-12 20:41:20
阅读次数：
207
介绍
KNN算法全名为k-Nearest Neighbor，就是K最近邻的意思。KNN也是一种分类算法。但是与之前说的决策树分类算法相比，这个算法算是最简单的一个了。算法的主要过程为：
1、给定一个训练集数据，每个训练集数据都是已经分好类的。
2、设定一个初始的测试数据a，计算a到训练集所有数据的欧几里得距离，并排序。
3、选出训练集中离a距离最近的K个训练集数据。
4、比较k个训练集数...
分类：
编程语言 时间：
2015-01-12 09:32:18
阅读次数：
599
LSA and SVD
LSA(隐性语义分析)的目的是要从文本中发现隐含的语义维度-即“Topic”或者“Concept”。我们知道，在文档的空间向量模型（VSM）中，文档被表示成由特征词出现概率组成的多维向量，这种方法的好处是可以将query和文档转化成同一空间下的向量计算相似度，可以对不同词项赋予不同的权重，在文本检索、分类、聚类问题中都得到了广泛应用，在基于贝叶斯算法及KNN算法的ne...
分类：
其他好文 时间：
2015-01-09 20:59:37
阅读次数：
265
主成分分析（PCA）是一种基于变量协方差矩阵对数据进行压缩降维、去噪的有效方法，PCA的思想是将n维特征映射到k维上（k0时说明 X和 Y是正相关关系，协方差<0时 X和Y是负相关关系，协方差为0时 X和Y相互独立。 协方差的计算是针对两维的，对于n维的数据集，可以计算C(n,2)种协方差...
分类：
编程语言 时间：
2015-01-05 23:08:15
阅读次数：
453
