1 简介 决策树模型是树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策 ...
分类：
其他好文 时间：
2020-04-28 13:04:22
阅读次数：
158
1. 什么是决策树 1.1 决策树的基本思想 其实用一下图片能更好的理解LR模型和决策树模型算法的根本区别，我们可以思考一下一个决策问题：是否去相亲，一个女孩的母亲要给这个女海介绍对象。 大家都看得很明白了吧！LR模型是一股脑儿的把所有特征塞入学习，而决策树更像是编程语言中的if-else一样，去做 ...
分类：
其他好文 时间：
2020-04-20 16:15:14
阅读次数：
146
堆排序，快速排序的时间复杂度为nlog(n)。他们都是运用比较排序的结果。好比决策树模型。 属于线性时间排序的算法有：计数排序，基数排序和桶排序。 计数排序： 先分别求出每个元素的频数，不过如果元素值较大时，比较浪费内存空间。 def Counting_Sort(A,B,k): for i in r ...
分类：
编程语言 时间：
2020-04-17 21:52:51
阅读次数：
68
实体嵌入（embedding）目的将表格数据中的分类属性（一个至多个）向量化。1.实体嵌入简介：实体嵌入是主要应用于深度学习中处理表格分类数据的一种技术，或者更确切地说NLP领域最为火爆，word2vec就是在做word的embedding。神经网络相比于当下的流行的xgboost、LGBM等树模型... ...
分类：
其他好文 时间：
2020-04-05 00:32:18
阅读次数：
108
常用的决策树算法有 ID3、C4.5、CART ，它们构建树所使用的启发式函数各是什么？除了构建准则之外，它们之间的区别与联系是什么？首先，我们回顾一下这几种决策树构造时使用的准则。 | 人 | 年龄 | 长相 | 工资 | 写代码 | 类别 | | | | | | | | | 小A | 老 | 帅 ...
分类：
其他好文 时间：
2020-04-02 22:47:48
阅读次数：
100
event.txt 解决分类问题： 数据处理：训练集测试集划分，交叉验证，验证曲线，学习曲线，网格搜索。。 分类模型：逻辑回归，朴素贝叶斯，树模型，svm 模型评估：混淆矩阵，分类报告；查找率，召回率，f1得分 ...
分类：
其他好文 时间：
2020-03-24 15:49:02
阅读次数：
60
首先剪枝（pruning）的目的是为了避免决策树模型的过拟合。因为决策树算法在学习的过程中为了尽可能的正确的分类训练样本，不停地对结点进行划分，因此这会导致整棵树的分支过多，也就导致了过拟合。决策树的剪枝策略最基本的有两种：预剪枝（pre-pruning）和后剪枝（post-pruning）： 预剪 ...
分类：
其他好文 时间：
2020-03-12 14:43:02
阅读次数：
72
1.概述 回归树就是用树模型做回归问题，每一片叶子都输出一个预测值。预测值一般是该片叶子所含训练集元素输出的均值， 即 𝑐𝑚=𝑎𝑣𝑒(𝑦𝑖|𝑥𝑖∈𝑙𝑒𝑎𝑓𝑚)cm=ave(yi|xi∈leafm)。 2.构建过程 回归树采用平方和损失函数 每次选择一个切分变量j和切分点s ...
分类：
其他好文 时间：
2020-02-19 23:46:37
阅读次数：
75
1 from sklearn import tree,datasets 2 from sklearn.model_selection import train_test_split 3 wine=datasets.load_wine() 4 X,y=wine.data[:,:2],wine.targ ...
分类：
其他好文 时间：
2020-02-10 13:52:59
阅读次数：
67
数据分析涉及统计学、线性代数、图形分析绘制、数据挖掘等知识，推荐系统学习电子资料《利用Python进行数据分析第2版》、《Python数据分析与挖掘实战》、《从零开始学Python数据分析与挖掘》电子书和代码测试。 《利用Python进行数据分析第2版》电子书代码，每一章之间有递进关系，适合在Pyt ...
分类：
编程语言 时间：
2020-01-29 01:18:02
阅读次数：
135
