摘自《统计学习方法》 李航 第五章 决策树学习通常包括3个步骤：特征选择、决策树的生成、决策树的剪枝 决策树学习本质上是从训练集中归纳出一组分类规则。 决策树学习的损失函数通常是正则化的极大似然函数。 决策树的学习算法通常是采用启发式的方法，近似求解最优化问题 特征选择问题 特征选择在于选取对训练数 ...
分类：
其他好文 时间：
2018-05-23 00:01:55
阅读次数：
169
分类和决策树。 决策树是预测建模机器学习的一种重要算法。 决策树模型的表示是二叉树。这是算法和数据结构中的二叉树，没什么特别的。每个节点表示一个单独的输入变量(x)和该变量上的拆分点(假设变量为数值)。 树的叶节点包含一个输出变量(y)，用于进行预测。通过遍历树的分割，直到到达叶节点并输出叶节点的类 ...
分类：
其他好文 时间：
2018-05-18 00:35:08
阅读次数：
126
1、所谓决策树模型，是通过重要性依次向下绘出的，越重要的越在上面。 决策树有节点和有向边组成。结点有两种类型，内部节点和叶结点，内部节点表示一个属性，叶子节点表示一个类。 决策树的数学意义在于 ，条件概率分布。举一个简单的例子：一个人去银行贷款，他的年龄、收入、房子、车子都能决定他是否能贷到款。我们 ...
分类：
其他好文 时间：
2018-05-16 00:42:42
阅读次数：
189
本文利用KNIME基于Spark决策树模型算法，通过对泰坦尼克的包含乘客及船员的特征属性的训练数据集进行训练，得出决策树幸存模型，并利用测试数据集对模型进行测试。
分类：
系统相关 时间：
2018-05-09 16:05:02
阅读次数：
660
git: https://github.com/linyi0604/MachineLearning 数据集被我下载到本地，可以去我的git上拿数据集 XGBoost提升分类器 属于集成学习模型 把成百上千个分类准确率较低的树模型组合起来 不断迭代,每次迭代生成一颗新的树 下面 对泰坦尼克遇难预测使用 ...
分类：
编程语言 时间：
2018-05-08 17:33:14
阅读次数：
291
1. 概念决策树是通过一系列规则对数据进行分类的过程，它提供一种在什么条件下会得到什么值的类似规则的方法。决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型：内部节点和叶节点，内部节点表示一个特征或属性，叶节点表示一个类。直观看上去，决策树分类器就像判断模块和终止块组成的流程图
分类：
编程语言 时间：
2018-04-16 21:58:19
阅读次数：
202
决策树概念： 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型：内部节点和叶节点，内部节点表示一个特征或属性，叶节点表示一个类。 分类的时候，从根节点开始，对实例的某一个特征进行测试，根据测试结果，将实例分配到其子结点；此时，每一个子结点对应着该特征的一个取 ...
分类：
其他好文 时间：
2018-03-28 00:02:04
阅读次数：
252
一、决策树 1、决策树是一种基本的分类与回归方法，本文主要讨轮用于分类的决策树，决策树模型呈现树形结构，在分类问题中，表示基于特征对实例进行分类的过程， 学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型 预测时，对新的数据，利用决策树模型进行分类， 决策树学习通常分为3个步骤：特征选择、 ...
分类：
其他好文 时间：
2018-03-27 12:30:41
阅读次数：
143
网上的版本好像好久都没更新了treePlotter是没有人用了么。今天学习的时候发现有些地方已经改了，我改的是在python 3.6 上的运行版本，需要导入matplotlib.pyplot 这个treePlotter导入了就可以把原来得到的决策树模型导入啦，而且要注意是以字典形式导入，所以保存和导 ...
分类：
其他好文 时间：
2018-03-13 23:54:47
阅读次数：
4967
决策树模型与学习1. 定义一般的，一棵决策树包含一个根结点，若干个内部结点和若干个叶结点；叶结点对应于决策结果，其他每个结点则对应于一个属性测试；每个结点包含的样本集合根据属性测试的结果被划分到子结点中；跟结点包含样本全集，从跟结点到每个叶结点的路径对应一个判定测试序列。上面的定义可能有些抽象，我随 ...
分类：
其他好文 时间：
2018-03-11 14:20:11
阅读次数：
162
