（一）：细说贝叶斯滤波：Bayes filters

标签：变量   输入   isp   add   执行   算法   先来   分享   表示   

认知计算，还要从贝叶斯滤波的基本思想讲起。这一部分，我们先回顾贝叶斯公式的数学基础，然后再来介绍贝叶斯滤波器。

(一). 概率基础回顾

我们先来回顾一下概率论里的基本知识：

1. \( X \):  表示一个随机变量，如果它有有限个可能的取值\( \{x_1, x_2, \cdots, x_n \} \).

2. \( p(X=x_i) \):表示变量\( X \)的值为 \( x_i \)的概率。

3. \( p(\cdot) \):称为概率质量函数(probability mass function).

    例如：一个家里有3个房间，机器人在各个房间的概率为 \( p(room)=\{0.1, 0.3, 0.6\} \).

4. 如果\( X \)在连续空间取值，\( p(x) \)称为概率密度函数(probability density function)，

$$p (x \in (a,b)) = \int\limits_a^b {p(x)dx} $$

图1. 概率密度函数曲线示例

5. 联合概率：$ p(X=x ~~\textrm{and} ~~Y=y) = p(x,y) $，称为联合概率密度分布。如果$X$和$Y$是相互独立的随机变量，$p(x,y)=p(x)p(y)$。

6. 条件概率：$ p(X=x|Y=y) $ 是在已知$Y=y$的条件下，计算$X=x$的概率。

$$ p(x|y)=p(x,y)/p(y)$$

$$ p(x,y)=p(x|y)p(y)=p(y|x)p(x)$$

    如果$x$和$y$相互独立，则：

$$ p(x|y)=p(x)$$

7. 全概率公式：

  离散情况下:

$$p(x) = \sum\limits_y {p(x,y)}=\sum\limits_y {p(x|y)p(y)} $$

  连续情况下：

$$p(x) = \int {p(x,y)\;dy} = \int {p(x|y)p(y)\;dy} $$

(二). 贝叶斯公式

2.1 贝叶斯公式

基于条件概率公式和全概率公式，我们可以导出贝叶斯公式：

$$\begin{array}{c}
P(x,y) = P(x|y)P(y) = P(y|x)P(x)\\
\Rightarrow \\
P(x\,\left| {\,y} \right.) = \frac{{P(y|x)\,\,P(x)}}{{P(y)}} = \frac{{{\textrm{causal knowledge}} \cdot {\textrm{prior knowledge}}}}{{{\textrm{prior knowledge}}}}
\end{array}$$

• 这里面$x$一般是某种状态；$y$一般是代表某种观测。
• 我们称${P(y|x)}$为causal knowledge，意即由$x$的已知情况，就可以推算$y$发生的概率，例如在图2的例子中，已知如果门开着，则$z=0.5m$的概率为0.6；如果门关着，则$z=0.5m$的的概率为0.3。
• 我们称${P(x)}$为prior knowledge，是对$x$的概率的先验知识。例如在图2的例子中，可设门开或关的概率各占$50\%$.
• ${P(x|y)}$是基于观测对状态的诊断或推断。贝叶斯公式的本质就是利用causal knowledge和prior knowledge来进行状态推断或推理。

例1:：

在图2所示的例子中，机器人根据观测的到门的距离，估算门开或关的概率，若测量到门的距离为$z=0.5m$，则可用条件概率描述门开着的概率：

      $$P(\textrm{open}|z=0.6) = ?$$

图 2.机器人根据观测计算门开或关的概率

$$\begin{array}{l}
P(open|z=0.5) = {\textstyle{{P(z|open)P(open)} \over {P(z)}}}{~~~~\rm{      <--贝叶斯公式 }}\\
= \frac{{P(z|open)P(open)}}{{P(z|open)p(open) + P(z|\neg open)p(\neg open)}}{~~~~\rm{   <--全概率公式 }}\\
= \frac{{0.6 \cdot 0.5}}{{0.6 \cdot 0.5 + 0.3 \cdot 0.5}} = 2/3
\end{array}$$

2.2 贝叶斯公式的计算

可以看到贝叶斯公式的分母项${P(y)}$，同${P(x|y)}$无关，所以可以把它作为归一化系数看待：

$$\begin{array}{l}
P(x\,\left| {\,y} \right.) = \frac{{P(y|x)\,\,P(x)}}{{P(y)}} = \eta \;P(y|x)\,P(x)\\
\eta  = P{(y)^{ - 1}} = \frac{1}{{\sum\limits_x {P(y|x)} P(x)}}
\end{array}$$

所以基于causal knowledge和prior knowledge进行条件概率计算的过程如下：

Algorithm:

$\begin{array}{l}
\forall x:{\rm{au}}{{\rm{x}}_{x|y}} = P(y|x)\,\,P(x)\\
\eta  = \frac{1}{{\sum\limits_x {{\rm{au}}{{\rm{x}}_{x|y}}} }}\\
\forall x:P(x|y) = \eta \;{\rm{au}}{{\rm{x}}_{x|y}}
\end{array}$

2.3 贝叶斯公式中融合多种观测

在很多应用问题中，我们会用多种观测信息对一个状态进行猜测和推理，贝叶斯公式中是如何融合多种观测的呢？

我们简单推导一下：

$$\begin{array}{l}
P(x|y,z){\rm{ = }}\frac{{P(x,y,z)}}{{P(y,z)}}\\
= \frac{{P(y|x,z)p(x,z)}}{{P(y,z)}}\\
= \frac{{P(y|x,z)p(x|z)p(z)}}{{P(y|z)p(z)}}\\
= \frac{{P(y|x,z)p(x|z)}}{{P(y|z)}}
\end{array}$$

所以有：

$$P(x|y,z) = \frac{{P(y|x,z)\,\,P(x|z)}}{{P(y|z)}}$$

2.4 贝叶斯递推公式

由此，我们来推导贝叶斯滤波的递推公式：

$P(x|z_1, \ldots ,z_n) =?$

我们把$z_n$看做$y$，把$z_1, \ldots, z_{n-1}$看做$z$，代入上面的公式：

$$P(x|z_1, \ldots ,z_n) = \frac{{P(z_n|x,z_1, \ldots ,z_{n – 1})\;P(x|z1, \ldots ,z_{n – 1})}}{{P(z_n|z_1, \ldots ,z_{n – 1})}}$$

再由Markov属性，在$x$已知的情况下，$z_n$同$\{z_1, \ldots ,z_{n – 1}\}$无关，所以：

$$\begin{array}{c}
P(x|z_1, \ldots ,z_n) = \frac{{P(z_n|x,z_1, \ldots ,z_{n – 1})\;P(x|z1, \ldots ,z_{n – 1})}}{{P(z_n|z_1, \ldots ,z_{n – 1})}}\\
=\frac{{P(z_n|x)\;P(x|z1, \ldots ,z_{n – 1})}}{{P(z_n|z_1, \ldots ,z_{n – 1})}}
\end{array}$$

从而我们得到贝叶斯的递推公式：

$$\begin{array}{*{20}{l}}
{P(x|{z_1}, \ldots ,{z_n})}&{ = \frac{{P({z_n}|x)\;P(x|{z_1}, \ldots ,{z_{n{\rm{ - }}1}})}}{{P({z_n}|{z_1}, \ldots ,{z_{n - 1}})}}}\\
{}&{ = {\eta _n}\;P({z_n}|x)\;P(x|{z_1}, \ldots ,{z_{n - 1}})}\\
{}&\begin{array}{l}
= {\eta _n}\;P({z_n}|x)\;{\eta _{n - 1}}P({z_{n - 1}}|x)P(x|{z_1}, \ldots ,{z_{n - 2}})\\
= {\eta _1} \cdots {\eta _n}\;\prod\limits_{i = 1...n} {P({z_i}|x)} \;P(x)
\end{array}
\end{array}$$

例2：在例1的基础上，如果机器人第二次测量到门的距离仍然为0.5米， 计算门开着的概率。

$\begin{array}{lllll}
P(open|{z_2},{z_1}) &  = \;\;\frac{{P({z_2}|open)\;P(open|{z_1})}}{{P({z_2}|open)\;P(open|{z_1}) + P({z_2}|\neg open)\;P(\neg open|{z_1})}}\\
&  = \;\;\frac{{0.6 \cdot \frac{2}{3}}}{{0.6 \cdot \frac{2}{3} + 0.3 \cdot \frac{1}{3}}}\;\; = \;\;\frac{{0.4}}{{0.5}}\;\; = \;\;0.8
\end{array}$

所以，第二次z=0.5m的观测增大了对门开着的概率的置信程度。

(三). 如何融入动作？

在实际问题中，对象总是处在一个动态变化的环境中，例如：

1. 机器人自身的动作影响了环境状态
2. 其它对象，比如人的动作影响了环境状态
3. 或者就是简单的环境状态随着时间发生了变化。

如何在Bayes模型中来描述动作的影响呢?

1. 首先，动作所带来的影响也总是具有不确定性的
2. 其次，相比于观测，动作一般会使得对象的状态更为模糊（或更不确定）。

我们用$u$来描述动作，在$x‘$状态下，执行了动作$u$之后，对象状态改变为$x$的概率表述为：

$$P(x|u,x’)$$

动作对状态的影响一般由状态转移模型来描述。如图3所示，表示了“关门”这个动作对状态影响的转移模型。这个状态转移模型表示：关门这个动作有0.1的失败概率，所以当门是open状态时，执行“关门”动作，门有0.9的概率转为closed状态，有0.1的概率保持在open状态。门是closed的状态下，执行“关门”动作，门仍然是关着的。

图3. “关门”动作的状态转移模型

执行某一动作后，计算动作后的状态概率，需要考虑动作之前的各种状态情况，把所有情况用全概率公式计算：

• 连续情况下：

$$P(x|u) = \int {P(x|u,x‘)P(x‘)dx‘} $$

• 离散情况下：

$$P(x|u) = \sum {P(x|u,x‘)P(x‘)} $$

例3：在例2的基础上，如果按照图3所示的状态转移关系，机器人执行了一次关门动作， 计算动作后门开着的概率？

$$\begin{array}{lllll}
P(open|u) &  = \sum {P(open|u,x‘)P(x‘)} \\
& \,\, = P(open|u,open)P(open)\\
& \quad  + P(open|u,closed)P(closed)\\
& {\kern 1pt} \; = \frac{1}{{10}} * 0.8 + \frac{0}{1} * 0.2 = 0.08\\
\end{array}$$

$$\begin{array}{lllll}
P(closed|u) &  = \sum {P(closed|u,x‘)P(x‘)} \\
& \,\, = P(closed|u,open)P(open)\\
& \quad  + P(closed|u,closed)P(closed)\\
& {\kern 1pt} \; = \frac{9}{{10}} * 0.8 + \frac{1}{1} * 0.2 = 0.92
\end{array}$$

所以，执行一次关门动作后，门开着的概率变为了0.08.

(四). 贝叶斯滤波算法

4.1 算法设定

由上述推导和示例，我们可以给出贝叶斯滤波的算法，算法的输入输出设定如下。

1. 系统输入
   1. 1到$t$时刻的状态观测和动作：${d_t} = \{ {u_1},{z_1}\; \ldots ,{u_t},{z_t}\} $
   2. 观测模型：$P(z|x)$
   3. 动作的状态转移模型：$P(x|u,x’)$
   4. 系统状态的先验概率分布$P(x)$.
2. 期望输出
   1. 计算状态的后延概率，称为状态的置信概率：$Bel({x_t}) = P({x_t}|{u_1},{z_1}\; \ldots ,{u_t},{z_t})$

4.2 算法基本假设

贝叶斯滤波的基本假设：

        1. Markov性假设: $t$时刻的状态由$t-1$时刻的状态和$t$时刻的动作决定。$t$时刻的观测仅同$t$时刻的状态相关，如图4所示：

图4. Markov模型

$p({z_t}|{x_{0:t}},{z_{1:t}},{u_{1:t}})\,\,\, = \,\,\,p({z_t}|{x_t})$
$p({x_t}|{x_{1:t - 1}},{z_{1:t}},{u_{1:t}})\,\,\, = \,\,\,p({x_t}|{x_{t - 1}},{u_t})$

       2. 静态环境，即对象周边的环境假设是不变的

       3. 观测噪声、模型噪声等是相互独立的

4.3 Bayes滤波算法

基于上述设定和假设，我们给出贝叶斯滤波算法的推导过程：

$Bel({x_t}) = P({x_t}|{u_1},{z_1}\; \ldots ,{u_t},{z_t})$

$ = \eta \;{\kern 1pt} P({z_t}|{x_t},{u_1},{z_1}, \ldots ,{u_t})\;P({x_t}|{u_1},{z_1},\; \ldots ,{u_t})  ~~~~~~\rm{<—Bayes}$

$ = \eta \;{\kern 1pt} P({z_t}|{x_t})\;P({x_t}|{u_1},{z_1},\; \ldots ,{u_t})~~~~~~\rm{<—Markov}$

$ \!=\! \eta P({z_t}|{x_t})\int {P({x_t}|{u_1},{z_1},\! \ldots ,{u_t},{x_{t - 1}})} P({x_{t - 1}}|{u_1},{z_1}, \ldots ,{u_t})d{x_{t - 1}})~\rm{<—Total Prob}.$

$ = \eta P({z_t}|{x_t})\int {P({x_t}|{u_t},{x_{t - 1}})} P({x_{t - 1}}|{u_1},{z_1}, \ldots ,{u_t})d{x_{t - 1}})\; \rm{<—Markov}$

$ = \eta P({z_t}|{x_t})\int {P({x_t}|{u_t},{x_{t - 1}}){\mkern 1mu} } P({x_{t - 1}}|{u_1},{z_1}, \ldots ,{z_{t - 1}})d{x_{t - 1}})\; \rm{<—Markov}$

$ = \eta P({z_t}|{x_t})\int {P({x_t}|{u_t},{x_{t - 1}})} Bel({x_{t - 1}})\;d{x_{t - 1}}$

其中第一步采用贝叶斯公式展开，第二步使用Markov性质($z_t$仅由$x_t$决定)；第三步使用全概率公式对$x_{t-1}$进行展开；第四步继续使用Markov性质($x_t$仅由$x_{t-1}$和$u_t$决定)；第五步继续使用Markov性质，因为$x_{t-1}$同$u_t$无关，最终得到$Bel(x_t)$的递推公式。

可见递推公式中分为两个步骤，$\int {P({x_t}|{u_t},{x_{t - 1}})} Bel({x_{t - 1}})\;d{x_{t - 1}}$部分是基于$x_{t-1}, u_t$预测$x_t$的状态；$\eta P({z_t}|{x_t})$部分是基于观测$z_t$更新状态$x_t$.

4.3 Bayes滤波算法流程

所以，Bayes滤波的算法流程图如图5所示。如果$d$是观测，则进行一次状态更新，如果$d$是动作，则进行一次状态预测。

图5. Bayes滤波的算法流程

我们看到，在进行状态预测时，需要对所有可能的$x’$状态进行遍历，使得基本的Bayes模型在计算上成本是较高的。

4.3 Bayes滤波算法的应用

Bayes滤波方法是很多实用算法的基础，例如：

• Kalman滤波
• 扩展Kalman滤波
• 信息滤波
• 粒子滤波

等，我们在下一节介绍Kalman滤波。

参考文献

[1]. Sebastian Thrun, Wolfram Burgard, Dieter Fox, Probabilistic Robotics, 2002, The MIT Press.

[2]. 王永才，普适计算，Lecture notes.

（一）：细说贝叶斯滤波：Bayes filters

标签：变量   输入   isp   add   执行   算法   先来   分享   表示   

原文地址：http://www.cnblogs.com/ycwang16/p/5995702.html