以上为中继点老师课堂笔记,请注意版权
KNN 思路
kNN算法又称为k近邻分类(k-nearest neighbor classification)算法。
最简单平凡的分类器就是死记硬背式的分类器，记住所有的训练数据，对于新的数据则直接和训练数据匹配，如果存在相近属性的训练数据，则直接用它的分类来作为新数据的分类。这种方式有一个明显的缺点，那就是很可能一个新数据与训练数据属性值差异很...
分类：
其他好文 时间：
2016-04-10 14:58:46
阅读次数：
417
（1）：先将上述代码保存为kNN.py （2）：再在IDLE下的run菜单下run一下，将其生成python模块 （3）：import kNN（因为上一步已经生成knn模块） （4）：kNN.classify0([0,0],group,labels,3) （讨论[0,0]点属于哪一个类） 注：其中【 ...
分类：
编程语言 时间：
2016-04-10 01:12:33
阅读次数：
196
本来预计的打算是一天一个十大挖掘算法，然而由于同时要兼顾数据结构面试的事情，所以 很难办到，但至少在回家前要把数据挖掘十大算法看完，过个好年，在course上学习老吴的课程还是帮了我很大的忙，虽然浪费了时间，但是也无形中帮助我 很多，所以说还是很值得的，今天就总结KNN算法的一部分，这部分老吴的课程 ...
分类：
编程语言 时间：
2016-04-10 01:01:13
阅读次数：
279
本文详细介绍了KNN分类算法的原理。
以及如何使用KD树实现KNN算法，包括KD树的构建与K近邻查找
最后给出了KD树的C#实现源码...
分类：
编程语言 时间：
2016-04-05 17:48:27
阅读次数：
243
KNN算法的介绍请参考： http://blog.csdn.net/zouxy09/article/details/16955347 统计学习方法里面给出了KD Tree的算法介绍,按照书上的进行了实现： # -*- coding: utf-8 -*- from operator import it
分类：
编程语言 时间：
2016-03-01 00:44:25
阅读次数：
323
这篇文章讲kNN（k近邻，k-Nearest Neighbour）。这是一种lazy-learning，实现方便，很常用的分类方法。约定n为样本集中的样本数，m为样本的维度，则这个算法的训练复杂度为0，未加优化（线性扫描）的分类时间复杂度为，kd-Tree优化后复杂度可降为。 思路、优点及缺陷 该方
分类：
编程语言 时间：
2016-01-30 01:54:39
阅读次数：
257
利用k-近邻分类器实现手写识别系统，训练数据集大约2000个样本，每个数字大约有200个样本，每个样本保存在一个txt文件中，手写体图像本身是32X32的二值图像，如下图所示：
首先，我们需要将图像格式化处理为一个向量，把一个32X32的二进制图像矩阵通过img2vector()函数转换为1X1024的向量：
def img2vector(filename):
retu...
分类：
编程语言 时间：
2016-01-17 14:57:43
阅读次数：
235
一、案例背景
我的朋友海伦一直使用在线约会网站寻找合适自己的约会对象。尽管约会网站会推荐不同的人选，但她并不是喜欢每一个人。经过一番总结，她发现曾交往过三种类型的人：
（1）不喜欢的人；
（2）魅力一般的人；
（3）极具魅力的人；
尽管发现了上述规律，但海伦依然无法将约会网站推荐的匹配对象归入恰当的分类，她觉得可以在周一到周五约会那些魅力一般的人，而周末则更喜欢与那些极具魅力的人为伴...
分类：
编程语言 时间：
2016-01-17 13:38:35
阅读次数：
329
其原理为在一个样本空间中，有一些已知分类的样本，当出现一个未知分类的样本，则根据距离这个未知样本最近的k个样本来决定。 举例：爱情电影和动作电影，它们中都存在吻戏和动作，出现一个未知分类的电影，将根据以吻戏数量和动作数量建立的坐标系中距离未知分类所在点的最近的k个点来决定。
分类：
编程语言 时间：
2015-12-24 09:21:22
阅读次数：
219
那几年。我学习机器学习的主要内容：1.机器学习基本导论，机器学习入门了解；2.线性回归与Logistic。xx业绩预測系统。智能交互统计系统等。3.岭回归。Lasso，变量选择技术。维度的技巧等技术；4.降维技术。xx指标设计，详细规范。5.线性分类器，Knn算法，朴素贝叶斯分类器。文本挖掘。XX智...
分类：
其他好文 时间：
2015-12-19 17:55:21
阅读次数：
141
