码迷,mamicode.com
首页 > 其他好文 > 详细

Deep Active Learning 深度主动学习

时间:2019-07-31 16:50:48      阅读:825      评论:0      收藏:0      [点我收藏+]

标签:时间   work   Nid   就是   image   syn   www   gif   stream   

Deep Active Learning

 技术图片

最上方为监督学习,对面为非监督学习,之间包括增强学习、半监督学习、在线学习、主动学习。

Supervised Learing

 技术图片

将未标记的数据交给Work进行标记,然后将标记数据交给Learner进行训练。

Semi-Supervised Learning

 技术图片

在监督学习的基础上加了一条线,也就是把大量的未标记数据和少量的标记数据交给Learner进行训练,这样可以减少人工标记的时间。

Active Learning

 技术图片

通过Learner来决定哪些数据需要被标记,然后交给Work进行标记,重新训练Learner

 

 技术图片

 

主动学习分为三种:

membership query synthesis:由模型生成新的样本,可以决定生成样本的分布。

stream-based selective sampling:一个一个的选择未标记样本,由模型来决定是否进行标记。

pool-based sampling:数据储存在池中,从池中选择未标记样本进行标记。

 

伪代码

技术图片           技术图片

 

 

方法:

1.技术图片技术图片

1-预测出来的概率值,值为0.5时认为它具有更大的不确定性(针对二分类)。

2.技术图片技术图片

每个点的概率用每个点的概率输出的log值的求和来代替

3.技术图片

技术图片

在预测时使用dropout运行M次,查看M次结果有多少次不一致。

 

具体:http://www.mooc.ai/course/487/learn?lessonid=2671#lesson/2671

技术图片

Deep Active Learning 深度主动学习

标签:时间   work   Nid   就是   image   syn   www   gif   stream   

原文地址:https://www.cnblogs.com/ldh-up/p/11277272.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!