应用举例： 主成分分析PCA 推荐系统 测度论 随机变量X的特征函数 凸优化问题 优化问题的目标函数及限制条件均为凸函数。 局部最优问题等价于全局最优。 凸优化问题求解工具（cvx等）。 凸集合 集合中两点的连线均在集合内 凸函数（与高数中的凸函数相反） 常见的： 凸组合 凸闭包 凸集合保凸运算 任 ...
分类：
其他好文 时间：
2018-02-19 10:28:02
阅读次数：
189
网络流经典题里餐巾计划的加强版...天数变成了$10^5$，那就不能用费用流做了... 考虑费用流的时候，单位费用随流量的增加而减少，也就是说费用其实是个单峰（下凸）函数。 那么可以三分要买的餐巾个数，求费用可以用贪心。 新买的没用就用新买的，否则能慢洗的慢洗，不能慢洗的拿最晚的快洗后可以当天用的去 ...
分类：
其他好文 时间：
2018-02-18 18:38:18
阅读次数：
174
- 题目大意 有n个精灵在一维坐标轴上，并且每个精灵都有一个权值，每个精灵从一个点到达一个点要花费：S3*W（s代表距离），问所有的精灵要聚在一起，最小花费是多少。 - 解题思路 设最终要求的点的位置是x，则花费为:∑fabs(x[i]-x)^3*w[i]。又因为次函数为凸函数（求二次导就知道了）， ...
分类：
其他好文 时间：
2018-02-15 13:18:04
阅读次数：
151
Support Vector Machines 欠拟合，增大C，减小δ2，所以选C 选D 安全因子，选BC 欠拟合问题，选AB C，减少训练数据更会欠拟合 D，逻辑回归是凸函数，不存在局部最小 选CD A错误 B应该训练K个 ...
分类：
其他好文 时间：
2018-02-09 23:58:14
阅读次数：
323
参考：https://www.cnblogs.com/harvey888/p/7100815.html 1、凸集 对于一个集合C，若任意及,都有： 几何意义表现为： 如果集合C上的任意两个点的连线也在C集中，那么C为凸集。图形表示如下： 2、凸函数 对于集合D(f)，任意，均能满足： 由(1)中凸集 ...
分类：
其他好文 时间：
2018-02-09 17:16:38
阅读次数：
115
下面主要介绍EM的整个推导过程。 回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的（），那么f是凸函数。如果或者，那么称f是严格凸函数。 Jensen不等式表述如下： 如果f是凸函数，X是随机变量，那么 特 ...
分类：
编程语言 时间：
2018-01-25 23:11:29
阅读次数：
204
二、逻辑回归 1、代价函数 可以将上式综合起来为： 其中： 为什么不用线性回归的代价函数表示呢？因为线性回归的代价函数可能是非凸的，对于分类问题，使用梯度下降很难得到最小值，上面的代价函数是凸函数的图像如下，即y=1时： 可以看出，当趋于1，y=1，与预测值一致，此时付出的代价cost趋于0，若趋于 ...
分类：
编程语言 时间：
2017-12-15 20:52:50
阅读次数：
280
http://www.lydsy.com/JudgeOnline/problem.php?id=1038 本题可以使用三分法 将点按横坐标排好序后 对于任意相邻两个点连成的线段，瞭望塔的高度 是单峰函数，而且是下凸函数 感性理解单峰就是 瞭望塔建的靠左，为了能看到右边的，要高一点 瞭望塔建的靠右，为 ...
分类：
其他好文 时间：
2017-11-29 22:41:40
阅读次数：
210
1. 拉格朗日乘子(Lagrange Multiplier)法 假设函数z=f(x,y)，求该函数的最小值，如果没有约束条件，则可以表示为minf(x,y)，要求出minf(x,y)很简单，根据Fermat定理，分别对x和y求导数并让其等于0，如果是凸函数，则求出来的点就是函数取得最小值的点，该点的 ...
分类：
其他好文 时间：
2017-11-16 22:06:50
阅读次数：
258
0 前言 上”最优化“课，老师讲到了无约束优化的拉格朗日乘子法和KKT条件。 这个在SVM的推导中有用到，所以查资料加深一下理解。 1 无约束优化 对于无约束优化问题中，如果一个函数f是凸函数，那么可以直接通过f(x)的梯度等于0来求得全局极小值点。 为了避免陷入局部最优，人们尽可能使用凸函数作为优 ...
分类：
其他好文 时间：
2017-11-10 00:29:15
阅读次数：
136
