的优点是，在一个决策树的形式数据是easy理解。和kNN最大的缺点是数据的内在含义，不能给予。1：这个概念很简单文字说明 决策树的类型有非常多。有CART、ID3和C4.5等。当中CART是基于基尼不纯度(Gini)的。这里不做具体解释，而ID3和C4.5都是基于信息熵的，它们两个得到的结果都是一样...
分类：
其他好文 时间：
2015-12-14 16:18:08
阅读次数：
204
Atam教授：核希尔伯特空间（ 再生Hilbert空间），蒙塔卡罗方法，KNN，多维线性回归，PSF方法回归，特征之间的非线性关系，deep learning，香农信息熵，回归贝叶斯，稀疏字典构造Jayaram:模糊连通性原理，稀疏分解，非负矩阵分解，svd分解图分割，adaboost，自适应稀疏模...
分类：
其他好文 时间：
2015-12-07 16:00:02
阅读次数：
273
Python实战之KNN实现 用Python来实现K近邻分类算法（KNN）已经是一个老生常谈的问题，网上也已经有诸多资料，不过这里我还是决定记录一下自己的学习心得。 1、配置numpy库 numpy库是Python用于矩阵运算的第三方库，大多数数学运算都会依赖这个库来进行，关于numpy库的配...
分类：
编程语言 时间：
2015-12-05 17:35:09
阅读次数：
243
knn算法：1.优点：精度高、对异常值不敏感、无数据输入假定2.缺点：计算复杂度高、空间复杂度高。3.适用数据范围：数值型和标称型。一般流程：1.收集数据2.准备数据3.分析数据4.训练算法：不适用5.测试算法：计算正确率6.使用算法：需要输入样本和结构化的输出结果，然后运行k-近邻算法判定输入数据...
分类：
编程语言 时间：
2015-12-05 15:48:05
阅读次数：
152
在数据分析和数据挖掘的过程中，我们经常需要知道个体间差异的大小，进而评价个体的相似性和类别。最常见的是数据分析中的相关分析，数据挖掘中的分类和聚类算法，如K最近邻（KNN）和K均值（K-Means）。当然衡量个体差异的方法有很多，这里整理罗列下。 为了方便下面的解释和举例，先设定我们要比较X个...
分类：
编程语言 时间：
2015-12-01 12:52:40
阅读次数：
189
国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 2006年12月评选出了数据挖掘领域的十大经典算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, N...
分类：
编程语言 时间：
2015-11-28 10:23:04
阅读次数：
139
1、机器学习概论。 2、线性回归与Logistic。案例：电子商务业绩预测 3、岭回归，Lasso，变量选择技术。从一团乱麻中识别有用维度的技巧 4、降维技术。案例：业绩综合指标设计 5、线性分类器，Knn算法，朴素贝叶斯分类器，文本挖掘，案例：智能判断垃圾短信，通过文本挖掘给用户加标签，评论自动分...
分类：
编程语言 时间：
2015-11-26 01:23:58
阅读次数：
240
机器学习实战 http://www.cnblogs.com/qwertWZ/p/4582096.html机器学习实战笔记：http://blog.csdn.net/Lu597203933/article/details/37969799#第一个kNN分类器 inX-测试数据 dataSet-样本数....
分类：
其他好文 时间：
2015-11-25 16:37:29
阅读次数：
181
#一，自己写KNNdf 0.5, 1, 0) } return(predictions)}#添加预测列df 0)sum(predictions != test.y)#结果是50行预测错了16个点,正确率只有68%,因此结论是如果问题完全不是线性时,K近邻的表现好过GLM#三、以下进行推荐案...
分类：
系统相关 时间：
2015-11-14 16:26:06
阅读次数：
559
基于实例的学习方法中，最近邻法和局部加权回归法用于逼近实值或离散目标函数，基于案例的推理已经被应用到很多任务中，比如，在咨询台上存储和复用过去的经验；根据以前的法律案件进行推理；通过复用以前求解的问题的相关部分来解决复杂的调度问题。基于实例方法的一个不足是，分类新实例的开销可能很大。这是因为几乎所....
分类：
编程语言 时间：
2015-11-10 22:20:38
阅读次数：
343
