码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习(十二) 决策树

时间:2018-09-03 02:46:18      阅读:226      评论:0      收藏:0      [点我收藏+]

标签:data-   div   rop   bsp   com   度量   ima   信息   对象   

决策树(Decision Tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。在机器学习中,决策树是一个预测模型,他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度,使用算法ID3C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。
决策树是一种树形结构,其中每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。
分类树(决策树)是一种十分常用的分类方法。他是一种监管学习,所谓监管学习就是给定一堆样本,每个样本都有一组属性和一个类别,这些类别是事先确定的,那么通过学习得到一个分类器,这个分类器能够对新出现的对象给出正确的分类。这样的机器学习就被称之为监督学习。

一、什么是决策树

技术分享图片

技术分享图片

技术分享图片

技术分享图片

技术分享图片

技术分享图片

二、信息熵

 技术分享图片

技术分享图片

技术分享图片

技术分享图片

技术分享图片

三、使用信息熵寻找最优划分

 技术分享图片

技术分享图片

技术分享图片

技术分享图片

四、基尼系数

 

机器学习(十二) 决策树

标签:data-   div   rop   bsp   com   度量   ima   信息   对象   

原文地址:https://www.cnblogs.com/zhangtaotqy/p/9575745.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!