求优化问题(P) min f(x),当D为凸集，且函数f(x)为凸函数，则称该规划为凸规划。什么是凸集：点集中任意两点的连线都属于D,则D是凸集：凸集是单点或一条不间断的线（包括直线、射线、线段）；二、三维空间中的凸集就是直观上凸的图形。（例如：在二维中有扇面、圆、椭圆等，在三维中有实心球体等；多数...
分类：
其他好文 时间：
2014-10-09 18:53:57
阅读次数：
188
//函数满足凸函数性质，于是三分
# include
# include
# include
# include
using namespace std;
struct node
{
double x;
double w;
};
struct node a[50010];
int n;
double cal(double xi)
{
double res=0;
...
分类：
其他好文 时间：
2014-09-03 16:53:50
阅读次数：
236
”凸优化“ 是指一种比较特殊的优化，是指目标函数为凸函数且由约束条件得到的定义域为凸集的优化问题，也就是说目标函数和约束条件都是”凸”的。稀疏编码算法是一种无监督学习方法，它用来寻找一组“超完备”基向量来更高效地表示样本数据。稀疏编码算法的目的就是找到一组基向量 ，使得我们能将输入向量 表示为这.....
分类：
其他好文 时间：
2014-08-31 10:29:41
阅读次数：
436
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
题目链接题意 ： 给你若干个点，让你找最小的正方形覆盖这所有的点。输出面积。思路 ： 三分枚举正方形两对边的距离，然后求出最大，本题用的是旋转正方形，也可以用旋转点，即点的相对位置不变。正方形从0度到180度变化的过程中，把所有点覆盖，面积肯定是有一个最小峰值，是一个凸函数。因此可以用三分法解决。这...
分类：
其他好文 时间：
2014-08-07 00:13:06
阅读次数：
365
1.model specificationbinomial logistic regression model是一种分类模型。条件概率分布为： 伯努利分布其中， 2.Maximum Likelihood Estimation由于Hessian矩阵正定，因此NLL是个凸函数，有全局最小值。可以使用梯度...
分类：
其他好文 时间：
2014-07-26 14:11:14
阅读次数：
196
线性规划：目标函数与约束条件都是线性的。线性的函数也是凸函数（非严格凸）。
那么，线性规划也是在凸集上的凸规划。
线性约束的线性就是一个线性方程组，我们解这个方程组得到的解也就是这个规划的可行解。一般来说，约束的秩小于变量个数，即线性方程组有无数个解。
假设约束矩阵秩为m，我们取其中的m个线性无关向量为其基向量，设其他的非基向量系数 为0，就得到了约束方程A的一个解，称为基解。
定理：如线性规划存在可行解，则它必定存在基可行解是最优解。也就是，我们在这些基解中就可以得到最终的最优解。...
分类：
其他好文 时间：
2014-07-12 21:50:54
阅读次数：
202
这个是在凸优化里面看的，在EM算法中看有用到，所以用latex写了篇回忆用的小短文，现在不会把latex产生的pdf怎么转变成放到这里的内容。
所以我选择直接贴图。
这个pdf可以在我的资源里找到。 http://download.csdn.net/detail/bendanban/7358053...
分类：
其他好文 时间：
2014-05-18 09:36:27
阅读次数：
206
在这一节，我们用MCMC框架来考察几个例子。 一、和共轭凸函数的关系 设$M$是函数$p:
\mathbb{R}^n \mapsto [-\infty, \infty]$的上境图，易知此时有\begin{align*} w^* = p(
\boldsymbol{0} ) \end{align...
分类：
其他好文 时间：
2014-05-16 00:10:31
阅读次数：
502
设$\phi: X \times Z \mapsto
R$是闭凸函数，其中$X$和$Z$分别是$\mathbb{R}^n$和$\mathbb{R}^m$的非空子集，考虑如下的极大极小问题：\begin{align*}\min_{\boldsymbol{x}}
& \ \sup_{\boldsym.....
分类：
其他好文 时间：
2014-05-07 11:01:55
阅读次数：
521
