最优化局部极小点的条件（二）

时间：2015-12-28 06:21:27 阅读：341 评论：0 收藏：0 [点我收藏+]

标签：

回忆一下关于 $技术分享$ 元实值函数的 $技术分享$ 的求导问题，函数 $技术分享$ 的一阶导数 $技术分享$ 为

$技术分享$

函数 $技术分享$ 的梯度 $技术分享$ 正好是导数 $技术分享$ 的转置，即 $技术分享$ ；函数 $技术分享$ 的二阶导数，也称为hessian矩阵，可表示为：

$技术分享$

对于向量 $技术分享$ , $技术分享$ 和约束集中的某个点 $技术分享$ ，如果存在一个实数 $技术分享$ 使得对于所有 $技术分享$ ， $技术分享$ 仍然在约束集内，即 $技术分享$ ，则称 $技术分享$ 为 $技术分享$ 处的可行方向！

$技术分享$ 为 $技术分享$ 元实值函数 $技术分享$ 在 $技术分享$ 处的可行方向，则函数 $技术分享$ 沿方向 $技术分享$ 的方向导数 $技术分享$ 可表示为

$技术分享$

这也是一个实值函数，如果 $技术分享$ ，那么方向导数 $技术分享$ 表示的是函数 $技术分享$ 的值在 $技术分享$ 处沿方向 $技术分享$ 的增长率。为了计算方向导数，假定 $技术分享$ 和 $技术分享$ 已知，这样 $技术分享$ 就变成了关于 $技术分享$ 的函数，有

$技术分享$

应用链式法则，可得

$技术分享$

由此可见，当 $技术分享$ 是一个单位向量( $技术分享$ )时，函数f的值在 $技术分享$ 处沿方向 $技术分享$ 的增长率可以用内积 $技术分享$ 表示。

一阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上一阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集。如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，则对于 $技术分享$ 处的任意可行方向 $技术分享$ ，都有

$技术分享$

成立。

推论：局部极小点位于约束集内部时的一阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上一阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，且是 $技术分享$ 的内点，则有

$技术分享$

成立。

局部极小点的二阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上二阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点， $技术分享$ 是 $技术分享$ 处的一个可行方向，且 $技术分享$ ，则有

$技术分享$

其中，H为函数f的hessian矩阵。

推论：局部极小点位于约束集内部时的二阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上二阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，且是 $技术分享$ 的内点，则有

$技术分享$

hessian矩阵 $技术分享$ 半正定，也就是说，对于所有的向量 $技术分享$ ，都有

$技术分享$

-------------------------------------------------------------------------------

转载请注明出处博客园刺猬的温驯

本文链接 http://www.cnblogs.com/chenying99/p/5081426.html

最优化局部极小点的条件（二）

标签：

原文地址：http://www.cnblogs.com/chenying99/p/5081426.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

2021年07月29日 (22)
2021年07月28日 (40)
2021年07月27日 (32)
2021年07月26日 (79)
2021年07月23日 (29)
2021年07月22日 (30)
2021年07月21日 (42)
2021年07月20日 (16)
2021年07月19日 (90)
2021年07月16日 (35)

周排行