什么是KD树 Kd-树是K-dimension tree的缩写,是对数据点在k维空间(如二维(x,y),三维(x,y,z),k维(x,y,z..))中划分的一种数据结构,主要应用于多维空间关键数据的搜索(如:范围搜索和最近邻搜索)。本质上说,Kd-树就是一种平衡二叉树。 首先必须搞清楚的是,k-.....
分类:
其他好文 时间:
2015-11-08 14:08:41
阅读次数:
306
一、概述 K最近邻(k-Nearest Neighbor,KNN)分类算法,是一个理论上比较成熟的方法,也是最简单的机器学习算法之一。该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。KNN算法中,所选择的邻居都是已经....
分类:
编程语言 时间:
2015-11-04 17:18:28
阅读次数:
189
本文介绍一种用于高维空间中的快速最近邻和近似最近邻查找技术——Kd-Tree(Kd树)。Kd-Tree,即K-dimensional tree,是一种高维索引树形数据结构,常用于在大规模的高维数据空间进行最近邻查找(Nearest Neighbor)和近似最近邻查找(Approximate Near...
分类:
编程语言 时间:
2015-10-29 06:17:49
阅读次数:
582
主要内容:1、k近邻2、python实现1、什么是k近邻(KNN)在入门-1中,简单地实现了基于用户协同过滤的最近邻算法,所谓最近邻,就是找到距离最近或最相似的用户,将他的物品推荐出来。而这里,k近邻(K Nearest Neighbor)的意思就是,找出最近或最相似的k个用户,将他们的评分(相似度...
分类:
其他好文 时间:
2015-10-02 11:18:36
阅读次数:
191
主要内容:1、什么是基于用户的协同过滤2、python实现1、什么是基于用户协同过滤:协同过滤:Collaborative Filtering,一般用于推荐系统,如京东,亚马逊等电商网站上的“购买该物品的用户还喜欢/购买”之类的栏目都是根据协同过滤推荐出来的。基于用户的协同过滤:User-based...
分类:
其他好文 时间:
2015-10-01 16:34:35
阅读次数:
284
1.1、什么是K近邻算法何谓K近邻算法,即K-Nearest Neighbor algorithm,简称KNN算法,单从名字来猜想,可以简单粗暴的认为是:K个最近的邻居,当K=1时,算法便成了最近邻算法,即寻找最近的那个邻居。为何要找邻居?打个比方来说,假设你来到一个陌生的村庄,现在你要找到与你有着...
分类:
编程语言 时间:
2015-09-17 06:28:45
阅读次数:
277
K最近邻算法是分类问题中经常使用的一种非参数方法。算法的思路清晰简洁:对于待分类的样本,找出与其最近的K个样本(即训练样本中的K个)。然后对这K个样本进行投票,待分样本与多数样本的类别一致。在该算法中有两个最主要的问题:1、最近怎么评价?2、到底K等于多少?对于第..
分类:
其他好文 时间:
2015-09-02 02:14:51
阅读次数:
171
K最近邻(k-Nearest Neighbor,KNN)分类算法 R语言实现包:R语言中有kknn package实现了weighted k-nearest neighbor。决策树: R语言实现决策树:rpart扩展包iris.rp = rpart(Species~.,data = iris,.....
分类:
编程语言 时间:
2015-08-25 21:21:44
阅读次数:
428
1:算法是简单的叙述说明 由于训练数据样本和标签,为测试数据的示例,从最近的距离k训练样本,此k练样本中所属类别最多的类即为该測试样本的预測标签。简称kNN。通常k是不大于20的整数,这里的距离通常是欧式距离。2:python代码实现创建一个kNN.py文件,将核心代码放在里面了。(1)创建数据#创...
分类:
其他好文 时间:
2015-08-21 21:16:21
阅读次数:
201