kd树就是一种对k维空间中的实例点进行存储以便对其进行快速检索的树形数据结构，可以运用在k近邻法中，实现快速k近邻搜索时。构造kd树相当于不断地用垂直于坐标轴的超平面将k维空间切分。 假设数据集$T$的大小是$m n$,即$T={x_1,x_2,.. ...
分类：
其他好文 时间：
2018-02-09 17:31:16
阅读次数：
451
很久之前我就想过怎么快速在二维平面上查找一个区域的信息，思考许久无果，只能想到几种优秀一点的暴力。 Kd树就是干上面那件事的。 别的不多说，赶紧把自己的理解写下来，免得凉了。 KD树的组成 以维护k维空间(x,y,……)内的KD树为例，主要由一下三部分组成： 不看mi和mx，长得就和splay/tr ...
分类：
其他好文 时间：
2018-01-02 13:20:33
阅读次数：
133
目录 先验概率与后验概率 什么是朴素贝叶斯 模型的三个基本要素 构造kd树 kd树的最近邻搜索 kd树的k近邻搜索 Python代码(sklearn库) 先验概率与后验概率 什么K近邻算法(k-Nearest Neighbor,kNN) 引例 有一个训练集包含100个实例，属性是皮肤颜色（黑、白、黄 ...
分类：
编程语言 时间：
2017-11-27 23:29:44
阅读次数：
200
目录 什么是k近邻算法 模型的三个基本要素 构造kd树 搜索kd树 Python代码(sklearn库) 什么K近邻算法(k-Nearest Neighbor,kNN) 引例 假设有数据集，其中前6部是训练集（有属性值和标记），我们根据训练集训练一个KNN模型，预测最后一部影片的电影类型。 首先，将 ...
分类：
编程语言 时间：
2017-11-26 17:52:22
阅读次数：
166
统计学习方法 模型 k近邻(knn):kd树 朴素贝叶斯： 决策树： 逻辑回归与最大熵模型： SVM： CRF： ...
分类：
其他好文 时间：
2017-11-26 16:54:14
阅读次数：
136
李航博士的《统计学习方法》毋庸置疑是机器学习的经典入门书籍之一，本文是针对其中KNN算法中的KD树进行更细致的分析。由于鄙人学识尚浅（是真的很浅），所以如果有误，希望大家指正。 关于KNN近邻算法请参考《统计学习方法》中的叙述，这里不再重复凑字数叙述了。 KD树的构建亦可以参考《统计学习方法》中的叙 ...
分类：
其他好文 时间：
2017-10-17 15:35:33
阅读次数：
218
【题目链接】 http://www.lydsy.com/JudgeOnline/problem.php?id=4520 【题目大意】 求K远点对距离 【题解】 修改估价函数为欧式上界估价，对每个点进行dfs， 因为是无向点对，在小根堆中保留前2k个距离， 不断更新堆顶元素即可。 【代码】 ...
分类：
其他好文 时间：
2017-09-04 19:56:12
阅读次数：
200
【题目链接】 http://www.lydsy.com/JudgeOnline/problem.php?id=2716 【题目大意】 给出一些点，同时不断插入点和询问某点离插入点最近距离 【题解】 我们对于给定的点直接建树，之后动态插入查询即可，重建会超时， 直接插入就可以过了 【代码】 ...
分类：
其他好文 时间：
2017-09-03 14:12:45
阅读次数：
162
【题目链接】 http://www.lydsy.com/JudgeOnline/problem.php?id=4066 【题目大意】 要求维护矩阵内格子加点和矩阵查询 【题解】 往KD树上加权值点，支持矩阵查询即可，每隔5000个插入暴力重构树。 【代码】 ...
分类：
其他好文 时间：
2017-09-03 13:26:59
阅读次数：
114
