Sort a linked list in O(n log n)
time using constant space complexity.
这道题目非常简短的一句话，给链表排序，看到nlogn，我们可以来简单复习一下排序。首先说一下这个nlogn的时间复杂度（根据决策树我们可以得出这个界限），是基于比较排序的最小上限，也就是说，对于没有一定范围情况的数据来说，最快的排序思路就是归并和快速排...
分类：
其他好文 时间：
2014-06-22 09:02:54
阅读次数：
250
1、介绍 ?决策树（decision tree）是一种有监督的机器学习算法，是一个分类算法。在给定训练集的条件下，生成一个自顶而下的决策树，树的根为起点，树的叶子为样本的分类，从根到叶子的路径就是一个样本进行分类的过程。 ?下图为一个决策树的例子，见http://zh.wikipedia.org/w...
分类：
其他好文 时间：
2014-06-17 13:17:44
阅读次数：
281
决策树（DecisionTree）又称为判定树，是运用于分类的一种树结构。当中的每一个内部结点（internalnode）代表对某个属性的一次測试，每条边代表一个測试结果，叶结点（leaf）代表某个类（class）或者类的分布（classdistribution），最上面的结点是根结点。决策树分为分...
分类：
其他好文 时间：
2014-06-17 00:26:26
阅读次数：
235
bagging 是bootstrap aggregating的缩写，是第一批用于多分类集成算法。
bagging算法如下：
循环K次，每次都从样本集D中有放回地抽取样本集Di，这样总共得到k个样本集，用这K个样本集进行决策树生成，获得K个决策树模型，再将要检测的数据用这K个决策树模型进行多数表决，获得票数多的结论。
这种思想跟现代民主投票制度如出一辙，一个人再厉害，判断力也是有限的，但是...
分类：
其他好文 时间：
2014-06-15 19:28:13
阅读次数：
805
简介
很多人都玩过一个游戏，通过限定次数的提问猜出对方在纸上写出的一个词，当然对方必须对我们的每一个猜测做出回应，通过一连串正确或者错误的判断，如果最终我们猜出了对方的那个词，那么我们就取得了胜利，决策树的工作原理就和这个游戏类似，看下面一个例子：
上面这张图就是一个典型的决策树，我们每天出门前要想一下今天是开车还是走路呢？首先看看窗外，下雨了吗？如果有再看看到底是雪还是雨？哇靠！是雪...
分类：
其他好文 时间：
2014-06-14 14:45:27
阅读次数：
833
目前已有很多方法和技术用于构造分类模型，如决策树、神经网络、贝叶斯方法、Fisher线性分析(Fld)以及支持向量机(Support Vector
Machine, SVM)。基于超完备字典的信号稀疏分解是一种新的信号表示理论，其采用超完备的冗余函数系统代替传统的正交基函数，为信号自适应的稀疏扩展提...
分类：
其他好文 时间：
2014-06-08 21:02:36
阅读次数：
22018
算法复杂度用来表示在解决某个问题时，算法的性能表现。
复杂度上限，就是某个具体的已经实现的算法能够保证在一定时间内解决问题
复杂度下限，就是通过数学方法证明，所有的算法都必须花费一定的时间才能解决问题
最优化算法，就是可能达到的最小复杂度的算法，通常介于复杂度上限和下限之间
比如排序问题中：
计算模型为决策树
使用比较次数作为开销...
分类：
其他好文 时间：
2014-06-08 18:20:02
阅读次数：
190
决策树是对数据进行分类，以此达到预测的目的。该决策树方法先根据训练集数据形成决策树，如果该树不能对所有对象给出正确的分类，那么选择一些例外加入到训练集数据中，重复该过程一直到形成正确的决策集。决策树代表着决策集的树形结构。
决策树由决策结点、分支和叶子组成。决策树中最上面的结点为根结点，每个分支是一个新的决策结点，或者是树的叶子。每个决策结点代表一个问题或决策，通常对应于待分类对象的属性。每一个叶子结点代表一种可能的分类结果。沿决策树从上到下遍历的过程中，在每个结点都会遇到一个测试，对每个结点上问题的不同的...
分类：
其他好文 时间：
2014-06-08 14:55:35
阅读次数：
254
之前写过决策树的一篇blog。
这几天看数据挖掘导论发掘一些新的东西，记录下来。
增加了过拟合，剪枝，即其他纯度计算方法等内容。...
分类：
其他好文 时间：
2014-06-08 03:12:07
阅读次数：
269
