码迷,mamicode.com
首页 > 其他好文 > 详细

[CLRS][CH 15.5]最优二叉查找树

时间:2014-12-06 12:49:23      阅读:279      评论:0      收藏:0      [点我收藏+]

标签:style   blog   http   ar   color   使用   sp   for   div   

背景铺垫

假设我们正在设计一个翻译程序,讲英语翻译成法语,需要用一棵BST存储文章中出现的单词及等价的法语。因为要频繁地查找这棵树,所以我们希望查找时间越短越好。当然我们可以考虑使用红黑树,或者可能更适用的伸展树,来实现这一操作。但是这仍然不能满足我们的需要:由于单词出现频率不同,如果mycophagist这种奇怪的单词出现在根节点,而the、a、is这些常用单词出现在叶节点,即使O(lgn)的查找速度也极大的浪费了时间。

因此我们需要这样一种BST:频繁出现的单词出现在离根节点较近的地方。假设我们知道每个单词的出现频率,应该如何组织BST使得总搜索访问的节点数目最小呢?

最优二叉查找树 Optimal Binary Search Tree

定义:对于给定的一组概率,构造一棵搜索期望代价最小的BST,称为最优二叉查找树。

介绍:形式地,给定一个由n个互异关键字组成的序列 K = <k1, k2, ..., kn>,且关键字有序,即 k1 < k2 < ... <kn。利用这些关键字构造一棵BST,对于每个关键字ki搜索的概率是pi。某些搜索的值可能不在K内,因此还有n+1个“虚拟键” <d0, d1, d2, ..., dn> 代表不在K内的值。具体地,d0代表所有小于k1的值,dn代表所有大于kn的值。对于 i = 1, 2, ..., n-1,虚拟键di代表所有位于ki和ki+1之间的值。对于每个虚拟键di搜索的概率是qi。每个关键字ki是一个内部结点,而di是叶节点。每次搜索或者成功(找到内部结点ki),或者失败(找到叶节点di)。因此有:

  $\sum_{i=1}^{n}p_{i}+\sum_{i=0}^{n}q_{i}=1$

假设一次搜索的实际代价为检查的节点个数,亦即,在T内搜索所发现的节点的深度加上1。所以在T内一次搜索的期望代价为:

  $\begin{align*} E[T]&=\sum_{i=1}^{n}(depth_{T}(k_{i})+1)\cdot{} p_{i}+\sum_{i=0}^{n}(depth_{T}(d_{i})+1)\cdot{} q_{i}\\ &=\sum_{i=1}^{n}depth_{T}(k_{i})\cdot{} p_{i}+\sum_{i=0}^{n}depth_{T}(d_{i})\cdot{} q_{i}+1 \end{align*}$

举个栗子:

bubuko.com,布布扣

如图,根据相同关键字构造的BST,检索概率如下表

i 0 1 2 3 4 5
pi   0.15 0.10 0.05 0.10 0.20
qi 0.05 0.10 0.05 0.05 0.05 0.10

 

 

 

因此容易得出左树搜索代价为2.80,右树搜索代价为2.75,因此这棵树是最优的。

这个例子说明:一棵最优BST不一定是一棵整体高度最小的树,也不一定总是把有最大概率的关键字放在根部。

步骤1:一棵最优二叉树的结构

首先找最优子结构:如果一棵最优二叉查找树T有一棵子树T‘,包含关键字<ki, ..., kj>和<di-1, ..., dj>,那么树T‘的子树T‘‘也必定是一棵最优二叉查找树。这样,我们可以根据最优子结构来构造一棵最优二叉查找树。

给定关键字<ki, ..., kj>,假设根节点为k(i <= r <= j),则:
左子树包含关键字<ki, ..., kr-1>和<di-1, ..., dr-1>;
右子树包含关键字<kr+1, ..., kj>和<dr, ..., dj>。
只要我们检查所有候选根节点k(i <= r <= j),并且确定左右子树的最优子树,就保证能得到一棵最优二叉查找树。

注意一点是空子树的处理。如果一棵子树包含关键字<ki, ..., ki-1>,则其不含有任何关键字,但是却含有虚拟键di-1。同样的,对于子树<kj+1, ..., kj>,不含有任何关键字,但含有虚拟键dj

步骤2:一个递归解

选取子问题域为寻找包含关键字<ki, ..., kj>的最优二叉查找树,其中 i >= 1 且 i-1 <= j <= n(当 j = i-1 时只有虚拟键di-1)。定义e[i, j]为该问题的期望代价,显然,e[1, n]就是原问题的解。

当 j = i-1 时出现简单情况。因为只有一个虚拟键di-1,所以搜索期望代价是e[i, i-1] = qi-1。
当 j >= i 时需要遍历结点<ki, ..., ki-1>选择一个合适的根k(i <= r <= j),然后分别构造左右子树。同时,当一棵树成为另一棵树的子树时,子树所有结点深度加1。
对一颗有关键字<ki, ..., kj>的子树,定义概率的总和为:

  $w(i,j) = \sum_{j=i}^{j}pi+\sum_{j=i-1}^{j}ql$

因此,如果kr是一棵包含关键字<ki, ..., ki-1>的最优子树的根,则有

  $e[i,j]=p_{r}+((e[i,r-1]+w(i,r-1))+(e[r+1,j])+w(r+1,j))$

注意

  $w(i,j)=w(i,r-1)+p_{r}+w(r+1,j)$

将e[i,j]重写为

  $e[i,j]=e[i,r-1]+e[r+1,j]+w(i,j)$

于是我们就能得出递归式。在这里假设我们已知结点kr,我们选择有最低期望搜索代价的结点作为根:

  $e[i,j]=\begin{cases} q_{i-1}&j=i-1\\\textrm{min}_{i\leq r\leq j}{e[i,r-1]+e[r+1,j]+w(i,j)}&i\leq j\end{cases}$

我们还定义root[i,j]为根kr的下标r。

步骤3:计算一棵最优二叉查找树的期望搜索代价

其实我们能发现最优二叉查找树和矩阵链乘法之间有些相似,比如子问题都是由连续下标子范围组成。

正如我们之前所做的,为了储存子问题的结果,我们需要把e[i,j]保存在表e[1..n+1, 0..n]中,其中:
第一维下标需要达到n+1而不是n,原因是为了有一个只包含虚拟键dn的子树,我们需要计算和保存e[n+1,n];
第二纬下标需要从0开始,是为了保存e[1,0]。

使用 j >= i-1 的表项 e[i,j] 和表 root[i,j] 来记录包含关键字<ki, ..., kj>的子树的根,这个表只用 1 <= i <= j <= n的表项。

为了提高效率,还需要一个表格。不是没当计算e[i,j]时都要从头开始计算w(i,j),而是把这些值保存在表w[1..n+1, 0..n]中。
计算基础情况 w[i,i-1] = qi-1,其中 1 <= i <= n;
计算 w[i,j] = w[i,j-1] + pj + qj,其中 i <= j;
因此,可以计算出O(n2)个w[i,j]的值,每一个值需要O(1)计算时间。

下面的代码中,以概率<p, ..., p>和<q, ..., q>以及结点数量n为参数,返回表e和root。运行时间为O(n3)。

OPTIMAL-BST(p, q, n)
for i = (1 to n+1)     // 1~3行: 循环初始化e[i, i-1]和w[i, i-1]的值
    e[i, i-1] = q[i-1] //
    w[i, i-1] = q[i-1] //
for l = (1 to n)            // 4~13行: 循环利用递归式计算e[i, j]和w[i, j]
    for i = (1 to n-l+1)    // 第一次迭代时, l=1, 计算e[i,i]和w[i,i], i = 1..n
        j = i+l-1           // 第二次迭代时, l=2, 计算e[i,i+1]和w[i,i+1], i = 1..n-1
        e[i, j] =// 如此往复
        w[i, j] = w[i, j-1] + p[j] + q[j]
        for r = (i to j)                        // 9~13行: 尝试每个下标r, 以确定根节点
            t = e[i, r-1] + e[r+1, j] + w[i, j] //
            if t < e[i, j]                      // 发现更好的下标值则在root[i,j]中保存当前r
                e[i, j] = t                     //
                root[i, j] = r                  //
return e and root

补充:优化OPTMAL-BST过程 (CLRS 15.5-4)

现已被证明,对于所有的 i <= i < j <= n,总存在最优子树的根使得 root[i, j-1] <= root[i, j] <= root[i+1, j]。
利用这个事实我们可以修改OPTMAL-BST过程,使其在O(n2)时间内执行。

将第九行改为:
for r = ( root[i, j-1] to root[i+1, j] )

证明:该算法运行时间为O(n2)。

这一结论可以通过证明每一个e[i, j]的运行时间都是O(n)而得出。我们定义 e[i, j] (其中 j - i = k) 的全部状态集合为第k层集合(显然集合中 n-k 个结点)。所以计算 e[i, j] 需要 root[i+1, j] - root[i, j-1] + 1 次循环。因此,对于所有第k层集合的元素而言,总共需要 root[k, 1] – root[1, k] + n – k 次循环。又因为 1 <= root[k, 1] 且 root[1, k] <= n,所以循环次数为O(n)。

因为 0 <= k <= n-1,所以总循环次数为O(n2)。

该解法由Rip‘s Infernal Majesty给出。

[CLRS][CH 15.5]最优二叉查找树

标签:style   blog   http   ar   color   使用   sp   for   div   

原文地址:http://www.cnblogs.com/rancher/p/4143536.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!