参考资料(要是对于本文的理解不够透彻，必须将以下博客认知阅读，方可全面了解决策树)： 1.https://zhuanlan.zhihu.com/p/85731206 2.https://zhuanlan.zhihu.com/p/29980400 3.https://github.com/Vay-ke ...
分类：
其他好文 时间：
2019-11-16 21:35:18
阅读次数：
97
记录对概念的理解，用梁山好汉做例子来检验是否理解正确。 1. 事物的信息和信息熵 a. 事物的信息(信息量越大确定性越大): 信息会改变你对事物的未知度和好奇心。信息量越大，你对事物越了解，进而你对事物的好奇心也会降低，因为你对事物的确定性越高。如果你确定一件事件的发生概率是100%，你认为这件事情 ...
分类：
其他好文 时间：
2019-11-09 12:07:05
阅读次数：
97
上一篇博客中介绍了ID3和C4.5两种决策树算法，这两种决策树都只能用于分类问题，而本文要说的CART（classification and regression tree）决策树不仅能用于分类问题，也能用于回归问题。 ...
分类：
编程语言 时间：
2019-11-01 09:56:25
阅读次数：
87
决策树: 决策树方法在分类,预测,规则等领域有这广泛的应用,20世纪70年代后期和80年代初期,机器学习研究者提出了ID3算法后,决策树在机器学习,数据挖掘领域取得极大的发展,后来又有了c4.5,成为新的监督学习算法.1984年,几位科学家提出了CART分类算法,ID3和CART算法同时被提出,但都 ...
分类：
其他好文 时间：
2019-10-28 21:12:11
阅读次数：
111
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 决策树C4.5算法为了解决决策树ID3算法的不足，ID3算法的作者昆兰基于它的不足改进了决策树ID3算法。但是可... ...
分类：
编程语言 时间：
2019-10-16 18:19:27
阅读次数：
147
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 决策树总结# 一、ID3算法、C4.5算法和CART算法比较| 算法 | 树结构 | 支持模型 | 特征选择 |... ...
分类：
其他好文 时间：
2019-10-16 17:59:30
阅读次数：
98
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 决策树CART算法决策树C4.5算法虽然对决策树ID3算法做了很大的改良，但是缺点也是很明显的，无法处理回归问题... ...
分类：
编程语言 时间：
2019-10-16 17:56:00
阅读次数：
81
sklearn.tree.DecisionTreeClassifier 特征选择标准criterion 可以使用"gini"或者"entropy"，前者代表基尼系数，后者代表信息增益。一般说使用默认的基尼系数"gini"就可以了，即CART算法。除非你更喜欢类似ID3, C4.5的最优特征选择方法。 ...
分类：
其他好文 时间：
2019-10-15 11:37:44
阅读次数：
129
1. CART分类树算法的最优特征选择方法 2. CART分类树算法对于连续特征和离散特征处理的改进 3. CART分类树建立算法的具体流程 4. CART回归树建立算法 5. CART树算法的剪枝 6. CART算法小结 7. 决策树算法小结在决策树算法原理(上)这篇里，我们讲到了决策树里ID3算... ...
分类：
编程语言 时间：
2019-10-01 14:37:01
阅读次数：
122
决策树算法 决策树算法主要有ID3, C4.5, CART这三种。（在西瓜书中有详细介绍） $scikit learn$提供的$DecisionTreeClassifier$类可以做多分类任务。 和其他分类器一样，$DecisionTreeClassifier$需要两个数组作为输入： X: 训练数据 ...
分类：
编程语言 时间：
2019-09-27 22:43:33
阅读次数：
293
