码迷,mamicode.com
首页 > 其他好文 > 详细

Gradient Boost Decision Tree(GBDT)中损失函数为什么是对数形式

时间:2016-09-30 00:53:41      阅读:376      评论:0      收藏:0      [点我收藏+]

标签:

由于最近要经常用到XGBOOST的包,不免对相关的GBDT的原理又重新学习了一遍,

发现其中在考虑损失函数的时候,是以对数log进行度量的,囿于误差平方和函数的印象

那么为什么是对数呢?可能是下面的原因:

【通俗的解释】

对数损失是用于最大似然估计的。
一组参数在一堆数据下的似然值,等于每一条数据的概率之积。
而损失函数一般是每条数据的损失之和,为了把积变为和,就取了对数
再加个负号是为了让最大似然值和最小损失对应起来。

【专业的解释】

链接:http://www.zhihu.com/question/27126057

注:似乎很有道理,大家如果觉得不对,欢迎留言讨论。

Gradient Boost Decision Tree(GBDT)中损失函数为什么是对数形式

标签:

原文地址:http://www.cnblogs.com/haobang008/p/5921157.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!