码迷,mamicode.com
首页 > 其他好文 > 详细

Top K Selector

时间:2015-10-13 13:39:12      阅读:187      评论:0      收藏:0      [点我收藏+]

标签:

转自http://cache.baiducontent.com/

 

之前Tango的笔试题中最后一道Top K的算法题,题中明确要求了需要尽可能的在运行时间上进行优化,当时解题时并没有很好的思路,采用了排序后再获得头K个数据的解法,但明显感觉这种解法不是最优的,因此决定对这个问题做更进一步的探索。

 

Top K问题应该是当前互联网中非常普遍的应用场景了,如搜索引擎的热门关键字排序,电商网站的热销商品排序等。由于互联网数据非常庞大,因此通常来说结果集的规模远小于原始数据集的规模。

 

Top K问题最直接的解法是:对整个数据集进行排序,然后取出头K个数据作为结果集(也是解题时想到的解法)。因为对整个数据集进行了排序,所以算法的最优时间复杂度为O(n * logn)。

 

显然,由于只需要取出Top K个数据,剩余数据集的排序结果可以忽略,所以有了第二种算法:循环k次并在每次循环中找出结果集中的最大数字。这种算法的时间复杂度为O(k * n),考虑到结果数据集的数量远小于原始数据集的大小,因此相对来说是一种更快的算法。

 

但在第二种算法中,每次循环中都需要重新对数据集进行全量遍历从才能获得最大值,浪费了一部分时间。通过翻阅资料,发现堆排序可以很好的弥补算法二中的弱点:当堆构造出来之后,它能够通过树的层级来保存一部分数据的排序信息,因此在每次获取最大(小)值的过程中,只需要获取堆的第一个元素(树的根节点),将第一个节点和最后一个节点交换(保证堆的完全二叉树性质),最后做局部的调整保证堆的层级排序信息。而对于Top K问题,整个过程包括了初始化堆和之后的取值-交换-调整堆,算法的时间复杂度降到了O(n + k * logn)也就是O(k * logn)。

 

最后,在本地电脑上针对从包含5000000个整数的数据集中取出20个最大的整数的场景进行了测试,三种算法分别花费的时间为:算法一(快速排序):570ms;算法二(线性查找):170ms;算法三(对查找):16ms。

Top K Selector

标签:

原文地址:http://www.cnblogs.com/leirayen/p/4874195.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!