前言 前面的文章中介绍了决策树以及其它一些算法,但是,会发现,有时候使用使用这些算法并不能达到特别好的效果。于是乎就有了 (Ensemble Learning),通过构建多个学习器一起结合来完成具体的学习任务。这篇文章将介绍集成学习,以及其中的一种算法 AdaBoost。 集成学习 首先先来介绍下什 ...
分类:
其他好文 时间:
2019-12-27 23:58:53
阅读次数:
177
决策树算法 如何能够基于既有的数据来进行分类和回归?决策树是解决这类问题的机器学习模型。 解决思路是:通过样本特征的三个数字特征:1)满足特征值的样本数量;2)1)样本的分类各自数量有多该少;3)总的样本数量,来作为input参数,通过构建/选择的模型就计算出来该特征的指标,对于ID3而是信息增益,... ...
分类:
其他好文 时间:
2019-12-26 21:11:21
阅读次数:
98
R语言基于树的方法:决策树,随机森林,套袋Bagging,增强树 ...
分类:
编程语言 时间:
2019-12-26 12:54:46
阅读次数:
105
时间过得很快,这篇文章已经是机器学习入门系列的最后一篇了。短短八周的时间里,虽然对机器学习并没有太多应用和熟悉的机会,但对于机器学习一些基本概念已经差不多有了一个提纲挈领的了解,如分类和回归,损失函数,以及一些简单的算法——kNN算法、决策树算法等。 那么,今天就用聚类和K Means算法来结束我们 ...
分类:
编程语言 时间:
2019-12-23 13:09:39
阅读次数:
82
一、机器学习概述 1、机器学习的概念 心理学中对学习的解释是: 学习是指(人或动物)依靠经验的获得而使行为持久变化的过程。人工智能和机器学习领域的几位著名学者也对学习提出了各自的说法。 如Simon认为:如果一个系统能够通过执行某种过程而改进它的性能, 这就是学习。Minsky认为: 学习是在人们头 ...
分类:
其他好文 时间:
2019-12-21 13:46:35
阅读次数:
99
前言 下面将对数据利用决策树算法得到结果。 代码 ...
分类:
编程语言 时间:
2019-12-15 16:11:20
阅读次数:
272
我们经常使用决策树处理分类问题’近来的调查表明决策树也是最经常使用的数据挖掘算法。 它之所以如此流行,一个很重要的原因就是使用者基本上不用了解机器学习算法,也不用深究它 是如何工作的。 K-近邻算法可以完成很多分类任务,但是它最大的缺点就是无法给出数据的内 在含义,决策树的主要优势就在于数据形式非常 ...
分类:
编程语言 时间:
2019-12-14 21:12:58
阅读次数:
90
决策树是一种非参数监督学习预测模型。 决策树是一种树形结构,其中每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。 1.举例: 举个校园相亲的例子,今天校园的小猫(女)和小狗(男)准备配对,小猫如何才能在众多的优质🐶的心仪的狗呢?于是呢?有一只特乖巧的小猫找到了你 ...
分类:
其他好文 时间:
2019-12-14 19:33:29
阅读次数:
127
不要总是掉包欧,真的丢人啊,一起码起来! '''函数的功能:单层决策树分类函数参数说明: xMat:数据矩阵 i:第i列,第几个特征 Q:阈值返回分类结果: re'''import numpy as npimport pandas as pddef classify0(xMat,i,Q,S): re ...
分类:
编程语言 时间:
2019-12-11 23:29:35
阅读次数:
134
认识 我觉得决策树+ 随机森林 应该是 ML 中最为重要的算法之一了吧, 反正我是很喜欢用的. 算法难度低, 可解释性很强, 能可视化 能处理非线性, 可扩展为随机森林(集成学习) 建立决策树的判别依据有很多, 比较主流的有经典的 ID3 算法(熵), C4.5 , 基尼系数等. 我是这种基于熵的理 ...
分类:
其他好文 时间:
2019-12-09 01:00:08
阅读次数:
117