（本文为原创，请勿在未经允许的情况下转载） 前言 手写字符识别是机器学习的入门问题，k-近邻算法（kNN算法）是机器学习的入门算法。本文将介绍k-近邻算法的原理、手写字符识别问题分析、手写字符识别的kNN实现、测试。 kNN算法原理 kNN算法是一种分类算法，即如何判定一组输入数据属于哪一类别的算法 ...
分类：
编程语言 时间：
2017-12-17 12:15:56
阅读次数：
144
import tensorflow as tfimport numpy as npimport matplotlib.pyplot as plt #使用numpy生成200个随机点,范围从-0.5到0.5均匀分布，增加一个维度得到200行1列的数据(生成二维数据)x_data = np.linspa ...
分类：
其他好文 时间：
2017-12-03 21:42:39
阅读次数：
240
这个问题，CS开发模式总会遇到过。在此详细记录，以作技能储备。先说段历史故事：史前世界：1945～1994年 有一位美国科学家叫Vannevar Bush3在1945年虚构出来了一台名为Memex的桌面设备作为Web理念最早期的原型。这个Memex呢，用于在微缩胶卷上创建和标注跨文档链接，并按照这些... ...
分类：
其他好文 时间：
2017-11-30 20:13:12
阅读次数：
1590
最近用到KNN方法，学习一下OpenCV给出的demo。 demo大意是随机生成两团二维空间中的点，然后在500*500的二维空间平面上，计算每一个点属于哪一个类，然后用红色和绿色显示出来每一个点 如下是一系demo里用到的相关函数。 运行效果： 红色背景应该是表示每一个像素的类别标签和红色的点的标 ...
分类：
其他好文 时间：
2017-11-29 18:28:49
阅读次数：
217
1.经常使用决策树处理分类问题，决策树也是最经常使用的数据挖掘算法。 2.kNN可以完成很多分类任务，最大的缺点是无法给出数据的内在含义，决策树的优势在于数据形式容易理解。 3.1决策树的构造 决策树的优点：计算复杂度不高，输出结果易于理解，对中间值缺失不敏感，可以处理不相关特征数据。 缺点：可能会 ...
分类：
其他好文 时间：
2017-11-28 23:13:30
阅读次数：
232
目录 先验概率与后验概率 什么是朴素贝叶斯 模型的三个基本要素 构造kd树 kd树的最近邻搜索 kd树的k近邻搜索 Python代码(sklearn库) 先验概率与后验概率 什么K近邻算法(k-Nearest Neighbor,kNN) 引例 有一个训练集包含100个实例，属性是皮肤颜色（黑、白、黄 ...
分类：
编程语言 时间：
2017-11-27 23:29:44
阅读次数：
200
目录 什么是k近邻算法 模型的三个基本要素 构造kd树 搜索kd树 Python代码(sklearn库) 什么K近邻算法(k-Nearest Neighbor,kNN) 引例 假设有数据集，其中前6部是训练集（有属性值和标记），我们根据训练集训练一个KNN模型，预测最后一部影片的电影类型。 首先，将 ...
分类：
编程语言 时间：
2017-11-26 17:52:22
阅读次数：
166
统计学习方法 模型 k近邻(knn):kd树 朴素贝叶斯： 决策树： 逻辑回归与最大熵模型： SVM： CRF： ...
分类：
其他好文 时间：
2017-11-26 16:54:14
阅读次数：
136
一、kNN算法是机器学习的入门算法，其中不涉及训练，主要思想是计算待测点和参照点的距离，选取距离较近的参照点的类别作为待测点的的类别。 1，距离可以是欧式距离，夹角余弦距离等等。 2，k值不能选择太大或太小，k值含义，是最后选取距离最近的前k个参照点的类标，统计次数最多的记为待测点类标。 二、关于k ...
分类：
其他好文 时间：
2017-11-25 13:15:44
阅读次数：
292
学习《机器学习实战》第2章 参考博客：http://blog.csdn.net/c406495762/article/details/75172850#三-k-近邻算法实战之sklearn手写数字识别 K近邻法（k-nearest neighbor,K-NN）采用测量不同特征值之间的距离方法进行分类 ...
分类：
其他好文 时间：
2017-11-14 21:19:35
阅读次数：
242
