决策树：非线性有监督分类模型 随机森林：非线性有监督分类模型 决策树：根节点：顶层分类条件。中间节点：中间分类条件。叶子节点：分类号。分支：每个条件输出。二叉树：节点有2个分支。多叉树：节点至少2分支 决策树：根据样本的纯粹度来分类。 将纯粹度进行量化，计算机才能读懂。 信息熵：量化信息量，由香农提 ...
分类：
其他好文 时间：
2018-06-13 15:00:03
阅读次数：
287
1.什么是随机森林 简述 随机森林是一个高度灵活的机器学习方法，拥有广泛的应用前景，从市场营销到医疗保健保险。 既可以用来做市场营销模拟的建模，统计客户来源，保留和流失。也可用来预测疾病的风险和病患者的易感性。 随机森林是一个可做能够回归和分类。 它具备处理大数据的特性，而且它有助于估计或变量是非常 ...
分类：
其他好文 时间：
2018-06-13 01:02:09
阅读次数：
7134
1、RF 原理 用随机的方式建立一个森林，森林里面有很多的决策树，随机森林的每一棵决策树之间是没有关联的。在得到森林之后，当有一个新的输入样本进入的时候，就让森林中的每一棵决策树分别进行一下判断，看看这个样本应该属于哪一类（对于分类算法），然后看看哪一类被选择最多，就预测这个样本为那一类。 2、RF ...
分类：
其他好文 时间：
2018-06-06 15:44:13
阅读次数：
699
决策树有些与生俱来的缺点： 1：分类规则复杂 决策树算法在产生规则的时候采用局部贪婪法。每次都只选择一个属性进行分析构造决策树，所以再产生的分类规则往往相当复杂。 2：收敛到非全局的局部最优解 ID3算法每次在树的某个层次进行属性选择时,它不再回溯重新考虑这个选择,所以它容易产生盲人登山中常见的风险 ...
分类：
其他好文 时间：
2018-06-01 00:17:52
阅读次数：
178
解决欠拟合(高偏差)的方法 1. 模型复杂化 对同一个算法复杂化。例如回归模型添加更多的高次项，增加决策树的深度，增加神经网络的隐藏层数和隐藏单元数等 弃用原来的算法，使用一个更加复杂的算法或模型。例如用神经网络来替代线性回归，用随机森林来代替决策树等 2. 增加更多的特征，使输入数据具有更强的表达 ...
分类：
其他好文 时间：
2018-05-25 23:34:32
阅读次数：
548
先看数据： 特征如下： Time Number of seconds elapsed between each transaction (over two days) numeric V1 No description provided numeric V2 No description provi ...
分类：
其他好文 时间：
2018-05-25 14:01:19
阅读次数：
4119
分类问题，主要介绍决策树算法、朴素贝叶斯、支持向量机、BP神经网络、懒惰学习算法、随机森林与自适应增强算法、分类模型选择和结果评价。 一、分类基本介绍 物以类聚，人以群分，分类问题只古以来就出现我们的生活中。分类是数据挖掘中一个重要的分支，在各方面都有着广泛的应用，如医学疾病判别、垃圾邮件过滤、垃圾 ...
分类：
编程语言 时间：
2018-05-23 17:06:05
阅读次数：
236
0 引言 随机森林算法以其众多优点而广泛应用于数据挖掘及分类回归中，具体优点请自学哈哈。我是从做分类入手，是个菜鸟。 1 算法原理 2 建模 3 仿真结果 4 结果分析及总结 程序附录 Examples ## Classification:##data(iris)set.seed(71)iris.r ...
分类：
编程语言 时间：
2018-05-13 11:57:42
阅读次数：
319
python3 学习使用随机森林分类器 梯度提升决策树分类 的api，并将他们和单一决策树预测结果做出对比 附上我的git，欢迎大家来参考我其他分类器的代码: https://github.com/linyi0604/MachineLearning ...
分类：
编程语言 时间：
2018-04-29 17:44:12
阅读次数：
253
（草稿） Random Forest的随机性表现在哪里。 第一，是选择训练样本的随机性，又放回的 第二，是选择树节点特征的随机性。在n个特征中选择nsub个子特征的最优，但是会增加树对样本的你和程度，但是会提高泛化能力，可采用交叉验证的方法确定合适的nsub。 https://www.cnblogs ...
分类：
其他好文 时间：
2018-04-24 00:25:00
阅读次数：
203
