k近邻（k-NearestNeighbor，KNN）算法，应该是机器学习里最基础的算法，其核心思想是：给定一个未知分类的样本，如果与它最相似的k个已知样本中的多数属于某一个分类，那么这个未知样本也属于这个分类。所谓相似，是指两个样本之间的欧氏距离小，其计算公式为：k近邻算法的优点..
分类：
编程语言 时间：
2014-10-30 15:30:23
阅读次数：
231
在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。 本文的目的就是对常用的相似性度量作一个总结。本文目录：1. 欧氏距离2. 曼....
分类：
其他好文 时间：
2014-10-09 15:04:14
阅读次数：
191
题目大意：在二维平面上找出一个点，使它到所有给定点的距离和最小，距离定义为欧氏距离，求这个最小的距离和是多少（结果需要四舍五入）？思路：如果不能加点，问所有点距离和的最小值那就是经典的MST，如果只可以加一个点问最小值就是广义的费马点的问题，如果加点的数目不加限制，那问题就成了斯坦纳树的问题（介个属...
分类：
其他好文 时间：
2014-10-05 16:19:58
阅读次数：
211
引用keendawn的高斯（核）函数简介1函数的基本概念所谓径向基函数 (Radial Basis Function 简称 RBF), 就是某种沿径向对称的标量函数。 通常定义为空间中任一点x到某一中心xc之间欧氏距离的单调函数 , 可记作 k(||x-xc||), 其作用往往是局部的 , 即当x远...
分类：
其他好文 时间：
2014-09-01 00:16:22
阅读次数：
352
1、Dist函数的算法如下(很显然该算法的本质就是常说的欧氏距离算法)R(i,j)=SQRT(F(i)^2+G(j)^2)where: F(i)=iIF0n/2 G(i)=iIF0m/2图解：tvscl,dist(200)扩展：SURFACE, DIST(20), /SAVEIDL实现源码：; $I...
分类：
其他好文 时间：
2014-08-30 18:54:39
阅读次数：
1516
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-08-03 23:05:56
阅读次数：
416
在上一篇博文中，我们对KNN算法思想及流程有了初步的了解，KNN是采用测量不同特征值之间的距离方法进行分类，也就是说对于每个样本数据，需要和训练集中的所有数据进行欧氏距离计算。这里简述KNN算法的特点：优点：精度高，对异常值不敏感，无数据输入假定缺点：计算复杂度高，空间复杂度高适用数据范围：数值.....
分类：
编程语言 时间：
2014-07-26 14:52:00
阅读次数：
361
相似度计算的任务是根据两段输入文本的相似度返回从0到1之间的相似度值：完全不相似，则返回0,；完全相同，返回1.衡量两端文字距离的常用方法有：海明距离（Hamming distance），编辑距离，欧氏距离，文档向量的夹角余弦距离，最长公共字串。1. 余弦相似度把两篇文档看作是词的向量，如果x,y为...
分类：
其他好文 时间：
2014-07-22 22:53:35
阅读次数：
186
以下是几种常用的核函数表示：线性核（Linear Kernel）多项式核（Polynomial Kernel）径向基核函数（Radial Basis Function）也叫高斯核（Gaussian Kernel），因为可以看成如下核函数的领一个种形式：径向基函数是指取值仅仅依赖于特定点距离的实值函数，也就是。任意一个满足特性的函数 Φ都叫做径向量函数，标准的一般使用欧氏距离，尽管其他距离函数也是可...
分类：
其他好文 时间：
2014-07-01 10:54:27
阅读次数：
193
以下是几种常用的核函数表示：线性核（Linear Kernel）多项式核（Polynomial Kernel）径向基核函数（Radial Basis Function）也叫高斯核（Gaussian Kernel），因为可以看成如下核函数的领一个种形式：径向基函数是指取值仅仅依赖于特定点距离的实值函数，也就是。任意一个满足特性的函数 Φ都叫做径向量函数，标准的一般使用欧氏距离，尽管其他距离函数也是可...
分类：
其他好文 时间：
2014-06-30 19:03:44
阅读次数：
204
