标签:
转自http://cache.baiducontent.com/
之前Tango的笔试题中最后一道Top K的算法题,题中明确要求了需要尽可能的在运行时间上进行优化,当时解题时并没有很好的思路,采用了排序后再获得头K个数据的解法,但明显感觉这种解法不是最优的,因此决定对这个问题做更进一步的探索。
Top K问题应该是当前互联网中非常普遍的应用场景了,如搜索引擎的热门关键字排序,电商网站的热销商品排序等。由于互联网数据非常庞大,因此通常来说结果集的规模远小于原始数据集的规模。
Top K问题最直接的解法是:对整个数据集进行排序,然后取出头K个数据作为结果集(也是解题时想到的解法)。因为对整个数据集进行了排序,所以算法的最优时间复杂度为O(n * logn)。
显然,由于只需要取出Top K个数据,剩余数据集的排序结果可以忽略,所以有了第二种算法:循环k次并在每次循环中找出结果集中的最大数字。这种算法的时间复杂度为O(k * n),考虑到结果数据集的数量远小于原始数据集的大小,因此相对来说是一种更快的算法。
但在第二种算法中,每次循环中都需要重新对数据集进行全量遍历从才能获得最大值,浪费了一部分时间。通过翻阅资料,发现堆排序可以很好的弥补算法二中的弱点:当堆构造出来之后,它能够通过树的层级来保存一部分数据的排序信息,因此在每次获取最大(小)值的过程中,只需要获取堆的第一个元素(树的根节点),将第一个节点和最后一个节点交换(保证堆的完全二叉树性质),最后做局部的调整保证堆的层级排序信息。而对于Top K问题,整个过程包括了初始化堆和之后的取值-交换-调整堆,算法的时间复杂度降到了O(n + k * logn)也就是O(k * logn)。
最后,在本地电脑上针对从包含5000000个整数的数据集中取出20个最大的整数的场景进行了测试,三种算法分别花费的时间为:算法一(快速排序):570ms;算法二(线性查找):170ms;算法三(对查找):16ms。
标签:
原文地址:http://www.cnblogs.com/leirayen/p/4874195.html