#和随机森林一样，基于决策树，采用连续的方式构建树，深度很小max_depth<5.重要的参数n_estimate和learning_rate,这两个参数的y作用在于对模型过拟合化得调整，从而提高模型得泛化能力。 from sklearn.ensemble import GradientBoosti ...
分类：
编程语言 时间：
2018-07-14 19:26:44
阅读次数：
533
1. 是什么 如前面所说，决策树有时候会出现过拟合（overfit）的问题，越强大的决策树越可能出现过拟合，但是如果几个模型或者一个模型的几个参数组合起来，就很容易弥补这种问题。 2. 关键概念 采样。样本数量为N，采样数量也为N，但是采取的是有放回的采样（bootstrap）。 训练。决策树完全分 ...
分类：
其他好文 时间：
2018-07-12 13:19:05
阅读次数：
184
一.zookeeper的搭建方式zookeeper安装方式有三种：单机模式，集群模式以及伪集群模式。单机模式：zookeeper只运行在一台服务器上，适合测试环境；伪集群模式：就是在一台服务器上运行多个实例；集群模式：zookeeper运行于一个集群上，适合生产环境。这个计算机集群称为一个“集合体”(ensemble)。zookeeper通过复制来实现高可用性，只要集合体在半数以上的机器处于可用状
分类：
其他好文 时间：
2018-05-25 15:31:55
阅读次数：
129
从上面几篇的决策树開始,就能够開始进入到集成学习(ensemble learning)了,与其说集成学习是一种算法,倒不如说集成学习是一种思想. 集成学习的思想也是非常自然非常符合人类直观理解的. 用通俗的不能更通俗的话来说,要是一个机器学习器解决不了问题,那就多训练几个.再把这些学习器结合起来完毕 ...
分类：
其他好文 时间：
2018-04-25 17:07:42
阅读次数：
129
说到ML中Boosting和Bagging，他们属于的是ML中的集成学习，集成学习法（Ensemble Learning） ① 将多个分类方法聚集在一起。以提高分类的准确率。 （这些算法能够是不同的算法，也能够是同样的算法。） ② 集成学习法由训练数据构建一组基分类器，然后通过对每一个基分类器的预測 ...
分类：
其他好文 时间：
2018-04-05 14:28:43
阅读次数：
190
一.概述 ZooKeeper 遵循一个简单的客户端-服务器模型，其中客户端 是使用服务的节点（即机器），而服务器 是提供服务的节点。ZooKeeper 服务器的集合形成了一个 ZooKeeper 集合体（ensemble）。在任何给定的时间内，一个 ZooKeeper 客户端可连接到一个 ZooKe ...
分类：
其他好文 时间：
2018-03-20 12:51:42
阅读次数：
237
定义 集成学习是一种机器学习范式，其中多个学习器被训练来解决相同的问题。 这与试图从训练数据中学习一个假设的普通机器学习方法相反，集成方法尝试构造一组假设并将它们结合使用。 一个集合包含一些通常被称为基础学习器的学习器。 一个集合的泛化能力通常比单个基础学习器的泛化能力强得多。 实际上，集成学习具有 ...
分类：
其他好文 时间：
2018-03-19 00:30:05
阅读次数：
230
集成学习实践部分也分成三块来讲解： sklearn官方文档：http://scikit-learn.org/stable/modules/ensemble.html#ensemble 1、GBDT 2、XGBoost 3、Adaboost 在sklearn中Adaboost库分成两个，分别是分类和回 ...
分类：
其他好文 时间：
2018-03-17 10:49:31
阅读次数：
290
集成学习 Ensemble learning 中文名叫做集成学习，它并不是一个单独的机器学习算法，而是将很多的机器学习算法结合在一起，我们把组成集成学习的算法叫做“个体学习器”。在集成学习器当中，个体学习器都相同，那么这些个体学习器可以叫做“基学习器”。 个体学习器组合在一起形成的集成学习，常常能够 ...
分类：
其他好文 时间：
2018-03-13 22:50:51
阅读次数：
590
问题起因 最近要将一个文本分割成好几个topic，每个topic设计一个regressor，各regressor是相互独立的，最后汇总所有topic的regressor得到总得预测结果。没错！类似bagging ensemble！只是我没有抽样。文本不大，大概3000行，topic个数为8，于是我写 ...
分类：
编程语言 时间：
2018-01-23 18:20:23
阅读次数：
208
