XGboost算法 XGBoost是GBDT算法的一种改进，是一种常用的有监督集成学习算法；是一种伸缩性强、便捷的可并行构建模型的GradientBoosting算法。 原理是：在GBDT目标函数的基础上加入惩罚项，如下图绿框。通过限制树模型的叶子节点的个数和叶子节点的值来降低模型复杂度，从而防止过 ...
分类：
编程语言 时间：
2020-01-01 17:17:34
阅读次数：
105
转自：https://www.jianshu.com/p/f66696c98e07 结合例子解释算法原理和过程，觉得容易理解，转来做个记录 1.决策树 决策树模型demo 随机森林模型demo 1.1从LR到决策树 相信大家都做过用LR来进行分类，总结一下LR模型的优缺点： 优点 适合需要得到一个分 ...
分类：
编程语言 时间：
2020-01-01 15:15:42
阅读次数：
151
从2 3 4树模型到红黑树实现 [TOC] 前言 红黑树，是一个高效的二叉查找树。其定义特性保证了树的路径长度在黑色节点上完美平衡，使得其查找效率接近于完美平衡的二叉树。 但是红黑树的实现逻辑很复杂，各种旋转，颜色变化，直接针对其分析，大多数都是死记硬背各种例子，不太容易有个直观的理解。实际上，红黑 ...
分类：
其他好文 时间：
2019-12-01 11:50:01
阅读次数：
84
是基本算法，和决策树一样，是树模型中的基础算法，朴素贝叶斯是贝叶斯中的一个算法，是基于统计学的，在文本处理领域应用广泛。 需要先掌握贝叶斯定理： 联合概率（两个事件同时发生的概率） 条件概率（事件A发生的情况下，B的概率）= AB的联合概率/A发生的概率 乘法公式：条件概率变形 联合概率—天剑概率— ...
分类：
其他好文 时间：
2019-10-30 18:15:05
阅读次数：
69
XGBoost作为一个非常常用的算法，我觉得很有必要了解一下它的来龙去脉，于是抽空找了一些资料，主要包括陈天奇大佬的论文以及演讲PPT，以及网络上的一些博客文章，今天在这里对这些知识点进行整理归纳，论文中的一些专业术语尽可能保留不翻译，但会在下面写出自己的理解与解释。 资料下载：公众号（SAMsha ...
分类：
编程语言 时间：
2019-10-23 00:07:33
阅读次数：
129
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 提升树提升树(boosting tree)是以分类树或回归树作为弱学习器的强学习器。提升树模型用的是加法模型，算... ...
分类：
其他好文 时间：
2019-10-16 17:40:32
阅读次数：
106
在本文中，我们介绍了交付时间预估迭代的三个版本，分别为基于地址结构的树模型、向量召回方案以及轻量级的End-to-End的深度学习网络。同时介绍了如何在性能和指标之间取舍，以及模型策略迭代的中间历程，希望能给从事相关工作的同学们有所启发和帮助。 ...
分类：
其他好文 时间：
2019-10-14 12:55:59
阅读次数：
92
Decision Tree RegressionDecision Tree Intuition有两种决策树模型，一种是Classification另一种是Regression，两种决策树原理不同，这次主要学的是后者。说的简单通俗一些，Decision Tree就是将数据切根据特征值切分成不同的区域，... ...
分类：
其他好文 时间：
2019-10-07 21:23:31
阅读次数：
67
分支节点：度不为0的节点 决策树是一个树结构 每个非叶子结点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而某个叶节点存放一个类别。 决策过程：从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子结点，将叶子结点存放的类别作为决策结果 决策树模型核 ...
分类：
编程语言 时间：
2019-09-17 13:15:06
阅读次数：
222
