码迷,mamicode.com
首页 > 其他好文 > 详细

随机森林

时间:2018-07-02 13:32:52      阅读:197      评论:0      收藏:0      [点我收藏+]

标签:随机   c4.5   属性   展示   back   重要   回归   strong   并且   

定义:随机森林是一个包含多个决策树的分类器, 并且其输出的类别是由个别树输出的类别众数而定
建树过程:

技术分享图片

随机性:1) 数据的随机性选取2)待选特征的随机选取
待选特征:左决策树,右随机森林

技术分享图片

分裂特征:分裂特征(ID3算法,C4.5算法,CART算法等等)
特征权重:破坏所有样本某个特征数据(0.1,0.2…),比较误差,误差相差很大,所以该特征重要
优点:1)能够处理高纬度的数据,并且不用做特征选择
2)训练完后,能给出特征重要性,且可进行特征重要性可视化展示,便于分析
3)它包含一个好方法可以估计遗失的资料,并且,如果有很大一部分的资料遗失,仍可以维持准确度
4)学习过程快速
缺点:1)随机森林已经被证明在某些噪音较大的分类或回归问题上会过拟
2)对于有不同取值的属性的数据,取值划分较多的属性会对随机森林产生更大的影响,所以随机森林在这种数据上产出的属性权值是不可信的。

 

转载本博笔记须在文章明显处注明原文的链接和作者信息 

 

随机森林

标签:随机   c4.5   属性   展示   back   重要   回归   strong   并且   

原文地址:https://www.cnblogs.com/yinghuali/p/9253358.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!