主要内容： XGBoost算法的介绍 XGBoost算法的损失函数 XGBoost函数介绍 算法的应用实战——信用卡欺诈行为的识别 1.XGBoost算法的介绍 XGBoost是由传统的GBDT模型发展而来的，GBDT模型在求解最优化问题时应用了一阶导技术，而XGBoost则使用损失函数的一阶和二阶 ...
分类：
数据库 时间：
2019-11-01 20:53:31
阅读次数：
158
GBDT算法： 所谓的GBDT(Gradient Boost Desicison Tree)就是值在每一步迭代时我们难以真正求得一个新的模型使得其加上原有模型得到的损失最小，但是我们可以用所谓的梯度下降法使得损失减小。 输入：训练数据集$D+\lbrace(x_{1},y_{1}),...,(x_{ ...
分类：
其他好文 时间：
2019-10-17 14:03:33
阅读次数：
83
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# AdaBoost算法集成学习中弱学习器之间有强依赖关系的，称之为Boosting系列算法，而AdaBoost则是... ...
分类：
编程语言 时间：
2019-10-16 18:13:19
阅读次数：
111
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 梯度提升树梯度提升树(gradien boosting decision tree，GBDT)在工业上用途广泛，... ...
分类：
其他好文 时间：
2019-10-16 17:53:57
阅读次数：
80
完备的 AI 学习路线 https://mp.weixin.qq.com/s/fUNDdCzJrWBoKYh1tT4gSw CS229 课程讲义中文翻译： https://kivy cn.github.io/Stanford CS 229 CN/ /?id=%e8%b4%a1%e7%8c%ae%e6 ...
分类：
其他好文 时间：
2019-10-15 16:17:55
阅读次数：
148
MART概念，即 GBDT： 决策树 cart 的回归应用（连续值，区别于分类），以及拟合负梯度(实际上就是残差)的组合 第t轮的第i个样本的损失函数的负梯度为： 选用不同的损失函数会得到不同的负梯度，GBDT求解过程中使用平方损失作为损失函数： 求解得到负梯度： 可以发现，负梯度其实就是残差，回归 ...
分类：
其他好文 时间：
2019-10-03 12:14:42
阅读次数：
97
1 介绍一下项目：项目背景，使用的方法 1.1 特征组合如何组合的 1.2 如何选择的特征，GBDT如何选择特征？（没懂什么意思，gbdt训练的时候应该是用的所有的特征，为什么还会有特征选择） 1.3 介绍一下blending方法。 1.4 介绍一下所有的模型各自使用的特征？ 2 介绍一下特征提取的 ...
分类：
其他好文 时间：
2019-09-17 22:48:24
阅读次数：
117
机器学习算法太多了，分类、回归、聚类、推荐、图像识别领域等等，要想找到一个合适算法真的不容易，所以在实际应用中，我们一般都是采用启发式学习方式来实验。通常最开始我们都会选择大家普遍认同的算法，诸如SVM，GBDT，Adaboost，现在深度学习很火热，神经网络也是一个不错的选择。 假如你在乎精度（a ...
分类：
编程语言 时间：
2019-09-08 09:33:58
阅读次数：
219
推荐系统遇上深度学习(十)--GBDT+LR融合方案实战 0.8012018.05.19 16:17:18字数 2068阅读 22568 0.8012018.05.19 16:17:18字数 2068阅读 22568 推荐系统遇上深度学习系列：推荐系统遇上深度学习(一)--FM模型理论和实践：htt ...
分类：
其他好文 时间：
2019-09-04 19:11:12
阅读次数：
151
一面，电话（20190903） 1. 介绍下你自己 2.详细介绍个你自己觉得擅长的项目 3.这个项目的创新点 4.你觉得你怎么在cv领域做的突出 5.除了图像类算法，你还懂别的算法吗？ 6.详细的讲一下逻辑回归的推导吧，以及你在哪里用到这个算法的案例 7.随机森林和GBDT算法的区别 8.2根绳子， ...
分类：
其他好文 时间：
2019-09-03 22:29:02
阅读次数：
130
