码迷,mamicode.com
首页 > Web开发 > 详细

从ranknet到lamdarank,再到lamdamart

时间:2017-11-24 16:56:34      阅读:195      评论:0      收藏:0      [点我收藏+]

标签:images   神经网络   技术   预测概率   log   art   image   一个   rank   

learn2rank目前基本两个分支,1是神经网络学派ranknet,lamdarank,另一个是决策树学派如gbrank,lamdamart

05年提出ranknet,算分模块是简单的全连接网络,loss函数是预测概率之家的pair-wise关系和真实lablel的pair-wise关系的逻辑回归。

预测概率的pair-wise关系是两个相减然后求个sigmoid,如下图:

技术分享图片

真实概率如下)(S_ij表示,i 比 j 相关,S_ij是1,反之是 -1,如果label一样是0):

技术分享图片

最后的loss是

技术分享图片

然后可以化简为:

技术分享图片

具体推倒过程见:

技术分享图片

从ranknet到lamdarank,再到lamdamart

标签:images   神经网络   技术   预测概率   log   art   image   一个   rank   

原文地址:http://www.cnblogs.com/dmesg/p/7891022.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!