1、夹逼定理 2、导数 导数就是曲线的斜率,是曲线的变化快慢的反映 3、泰勒展开 应用:数值计算和实践中的模型简化 4、方向导数 5、梯度 6、凸函数 ...
分类:
其他好文 时间:
2018-07-29 11:48:06
阅读次数:
151
EM最大期望算法 目录 一、凸函数与凹函数的定义:1 二、Jensen不等式证明1 三、EM算法详解:1 1.最大似然1 2.EM算法1 3.EM算法推导1 4.EM算法步骤:1 5.EM算法的收敛性思考1 6.EM算法的一些思考1 一、凸函数与凹函数的定义: 1.凸函数定... ...
分类:
编程语言 时间:
2018-07-19 22:56:36
阅读次数:
283
1、夹逼定理 2、导数 导数就是曲线的斜率,是曲线的变化快慢的反映 3、泰勒展开 应用:数值计算和实践中的模型简化 4、方向导数 5、梯度 6、凸函数 7、概率论 ...
分类:
其他好文 时间:
2018-07-13 17:39:29
阅读次数:
146
题目大意: 求L的最大值 思路: 可以想象出是一个关于人到灯泡距离x的单峰上凸函数 当光线在墙角左边的时候影子在不断增长 然后通过相似可以推出人在墙上影子的长度为:H+D*(h-H)/x 再加上地上的D-x就可以计算出每个x的函数值了 1 #include<iostream> 2 #include< ...
分类:
其他好文 时间:
2018-06-30 14:37:19
阅读次数:
197
原函数约束很多,不一定是凸函数,也就是说原函数是一个也许有很多极小值的多维空间函数,它是不容易求最小值的。用来拟合,容易陷入局部最小值,得到的结果不够泛化。举例:一个训练好的分类器,对一些东西分类很准(拟合误差达到局部极小值),泛化能力很差(拟合误差不是全局最小)。通过求共轭函数,我们把它原函数映射到另一个多维空间(自变量都变了),变成一个新函数,这个函数是凸的,而且它的最大值小于等于原函数的最小
分类:
其他好文 时间:
2018-06-14 18:10:02
阅读次数:
543
解题关键:三分法裸题,一开始一定要保证函数为凸函数活着凹函数。 ...
分类:
其他好文 时间:
2018-06-09 20:31:43
阅读次数:
166
最近简要地学习了 三分法 这一玄学操作,其实还是比较好理解的。只要多画画图就可以参透。 我们这里以一道经典的模板题来进行讲解: "P3382 【模板】三分法" 我们对于这种 凸性函数求最值 的问题,一般还是选择采用三分。 我们先来观察这种凸性函数(这里以上凸函数为例) 然后我们对于要求最大值的要求, ...
分类:
其他好文 时间:
2018-06-08 22:07:39
阅读次数:
225
斜率凸优化小结 前言 很久以前考了一道叫做"林克卡特树"的题目( 还记得被八省联考支配的恐惧吗?) 正解是用直线去切一个凸函数...... 当时并不是很会。然而$APIO$讲课竟然讲了并且卧槽我竟然还听懂了。 所以就回来把这个坑给填了。 斜率凸优化 当遇到关于需要恰好选取$K$个的$DP$问题的时候 ...
分类:
其他好文 时间:
2018-05-17 16:01:12
阅读次数:
226
蔡佳 绪论 学科概述 最优化是从所有可能的方案中选择最合理的一种方案,以达到最佳目标的科学。 达到最佳目标的方案是最优方案,寻找最优方案的方法 最优化方法(算法)。 这种方法的数学理论即为最优化理论。 是运筹学的方法论之一,是其重要组成部分。 基本概念: 在一些例子中,如选址问题等,有的目标函数和约 ...
分类:
其他好文 时间:
2018-05-12 13:15:54
阅读次数:
200
梯度下降算法: 线性回归模型: 线性假设: 平方差成本函数: 将各个公式代入,对θ0、θ1分别求偏导得: 再将偏导数代入梯度下降算法,就可以实现寻找局部最优解的过程了。 线性回归的成本函数总是一个凸函数,故梯度下降算法执行后只有一个最小值。 “批”梯度下降:每一个步骤都使用所有的训练样本 ...
分类:
编程语言 时间:
2018-02-21 17:46:25
阅读次数:
190