这节讲述遇到一个函数，如何根据凸函数的四个定义灵活分析函数的凸性。 ...
分类：
其他好文 时间：
2018-12-24 02:54:28
阅读次数：
227
1. 凸函数 通常在实际中，最小化的函数有几个极值，所以最优化算法得出的极值不确实是否为全局的极值，对于一些特殊的函数，凸函数与凹函数，任何局部极值也是全局极致，因此如果目标函数是凸的或凹的，那么优化算法就能保证是全局的。 定义1 ：集合$R_c\subset E^n$是凸集，如果对每对点$\tex ...
分类：
编程语言 时间：
2018-12-15 14:56:33
阅读次数：
199
当一个脉冲通过一个低通RC电路时，它的波形为： R上电压波形+C上电压波形=总电压波形 根据总电压波形和电容上波形可求出电阻上波形，为什么会是这样？ 当0-1V跳变，电容开始充电，后面开始放电。 开始电压变化为无穷大，后电压变化为0，所以开始很大，也就是充电快，后面下降。也是凸函数。 当一个脉冲通过 ...
分类：
其他好文 时间：
2018-09-27 22:09:55
阅读次数：
336
yuanwen 0 前言 上”最优化“课，老师讲到了无约束优化的拉格朗日乘子法和KKT条件。 这个在SVM的推导中有用到，所以查资料加深一下理解。 1 无约束优化 对于无约束优化问题中，如果一个函数f是凸函数，那么可以直接通过f(x)的梯度等于0来求得全局极小值点。 为了避免陷入局部最优，人们尽可能 ...
分类：
其他好文 时间：
2018-09-18 13:43:29
阅读次数：
302
1、线性模型 形式简单、易于建模、很好的可解释性 2、逻辑回归 无需事先假设数据分布； 可得到近似概率预测； 对率函数任意阶可导的凸函数，许多数值优化算法都可直接用于求取最优解 3、线性判别分析（LDA） 当两类数据同先验、满足高斯分布且协方差相等时，LDA可达到最优分类 4、boosting 代表 ...
分类：
编程语言 时间：
2018-09-06 22:49:29
阅读次数：
191
1、梯度下降法 梯度下降法是最早最简单的，也是最为常用的最优化算法。梯度下降法实现简单，当目标函数是凸函数时，梯度下降法的解是全局解。一般情况下，其解不保证是全局最优解，梯度下降法的速度未必是最快的。梯度下降法的优化思想是用当前位置负梯度方向作为搜索方向，因为该方向为当前位置的最快下降方向，所以也被 ...
分类：
编程语言 时间：
2018-08-27 10:29:07
阅读次数：
164
关于非凸优化的方法， https://blog.csdn.net/kebu12345678/article/details/54926287 提到，可以把非凸优化转换为凸优化，通过修改一些条件。 非凸优化问题如何转化为凸优化问题的方法：1）修改目标函数，使之转化为凸函数2）抛弃一些约束条件，使新的可 ...
分类：
其他好文 时间：
2018-08-15 17:46:33
阅读次数：
469
来自：https://blog.csdn.net/kebu12345678/article/details/54926287 凸函数：如果函数f(x)的图像上方的点构成的集合是一个凸集的话，那么f(x)就是一个凸函数。 注意：此处的定义及内涵与百度百科不同，与英文的维基百科（https://en.w ...
分类：
其他好文 时间：
2018-08-15 00:39:51
阅读次数：
4681
一、什么是凸函数 对于一元函数\(f(x\))，如果对于任意\(t\epsilon[0,1]\)均满足：\(f(tx_1 + (1-t)x_2) \leq tf(x_1) + (1-t)f(x_2)\)，则称\(f(x)\)为凸函数(convex function) 如果对于任意\(t\epsilo ...
分类：
其他好文 时间：
2018-08-07 19:00:13
阅读次数：
183
