先抛开上面的二次规划问题，先来看看存在等式约束的极值问题求法，比如下面的最优化问题： 目标函数是f(w)，下面是等式约束。通常解法是引入拉格朗日算子，这里使用来表示算子，得到拉格朗日公式为 L是等式约束的个数。 然后分别对w和求偏导，使得偏导数等于0，然后解出w和。至于为什么引入拉格朗日算子可以求出 ...
分类：
其他好文 时间：
2016-05-20 11:13:46
阅读次数：
175
近来遇到一个比较困扰的优化问题，存储过程的主体逻辑如下： ALTER PROC [dbo].[DBA_TroubleShooting] AS BEGIN DECLARE @StartTime DATETIME DECLARE @EndTime DATETIME SELECT @StartTime=C ...
分类：
其他好文 时间：
2016-05-16 23:17:04
阅读次数：
268
前几天心血来潮，打算根据看知乎的API自己做一个小知乎，定制的过程遇到ListView的优化问题及图片未缓存重加载等等许多问题，解决了以后打算和博友分享一下。
接口数据：http://api.kanzhihu.com/getpostanswers/20150925/archive
首先，Json数据太常用，相信每一位开发者Json的解析都是必备的。我们要准备以下知识：
JavaBea...
分类：
移动开发 时间：
2016-05-16 00:21:10
阅读次数：
236
在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，只有当是凸函数的情况下，才能保证是充分必要条件。KKT条件是拉格朗日乘子法的泛化。之前学习的时候，只知道直接应用两个方法，但是却...
分类：
其他好文 时间：
2016-05-13 01:33:03
阅读次数：
149
转载自：http://www.cnblogs.com/tornadomeet 梯度下降法又叫最速下降法，英文名为steepest descend method.估计搞研究的人应该经常听见这个算法吧，用来求解表达式最大或者最小值的，属于无约束优化问题。 首先我们应该清楚，一个多元函数的梯度方向是该函数 ...
分类：
其他好文 时间：
2016-05-11 23:33:40
阅读次数：
519
1.问题描述： 对于著名的图的m着色，有两个主要的问题，一个是图的m色判定问题，一个是图的m色优化问题，描述如下。 图的m色判定问题: 给定无向连通图G和m种颜色。用这些颜色为图G的各顶点着色.问是否存在着色方法,使得G中任2邻接点有不同颜色。 图的m色优化问题:给定无向连通图G,为图G的各顶点着色 ...
分类：
编程语言 时间：
2016-05-11 09:28:46
阅读次数：
400
动态规划的原理及应用 动态规划是运筹学的一个分支，是求解多阶段决策过程的最优化数学方法。20世纪50年代初美国数学家R.E.Bellmma 等人在研究多阶段决策过程的优化问题时，提出了著名的最优化原理，把多阶段过程转化为一系列单阶段问题，逐个求解， 创立了解决这类问题的新方法——动态规划。 动态规划 ...
分类：
其他好文 时间：
2016-05-07 06:30:15
阅读次数：
201
优化
一般优化问题的基本形式
凸优化的基本形式
共轭函数
共轭函数是凸函数
对偶问题
拉格朗日函数
拉格朗日对偶函数
KKT条件
小结
优化一般优化问题的基本形式minimizef0(x),x∈Rnminimize \, f_0(x),x \in R^ns.t.fi(x)≤0,i=1?ms.t. \, f_i(x)\leq 0,i=1 \cdots ms.t.hj(x)=0,j=1?ns.t. \,...
分类：
编程语言 时间：
2016-05-07 01:09:08
阅读次数：
823
机器学习中常会用随机梯度下降法求解一个目标函数 L(Θ)L(\Theta) ，并且常是最小化的一个优化问题：
min L(Θ)min \ L \left(\Theta\right)
我们所追求的是目标函数能够快速收敛或到达一个极小值点。而随机梯度法操作起来也很简单，不过是求偏导数而已，但是为什么是这样呢？为什么算出偏导数就能说下降得最快？初期并不很明了，后来看过一些数学相关的知识才稍微明白了一点...
分类：
其他好文 时间：
2016-05-06 15:07:10
阅读次数：
1119
本章内容 □sigmod函数和logistic回归分类器 □最优化理论初步□梯度下降最优化算法□数据中的缺失项处理 这会是激动人心的一章，因为我们将首次接触到最优化算法。仔细想想就会发现，其实我们日常生活中遇到过很多最优化问题，比如如何在最短时间内从入点到达氏点？如何投人最少工作量却获得最大的效益？ ...
分类：
其他好文 时间：
2016-05-01 17:46:11
阅读次数：
288
