由于在看paper中经常会看到generalized eigenvalues、eigenvalues problem等字眼，今晚终于开始认真地重新看了一下线性代数中这部分内容。下面是在学习过程中找出来的资料：广义特征值问题的特征值，用以解决最优化问题，如 Ax=lamb*Bx：http://wenk...
分类：
其他好文 时间：
2014-10-25 00:48:18
阅读次数：
231
现在要把这几种常见的算法给理清弄明白了，要不然只能做个低级程序员了。
动态规划DP是求解决策过程的最优化的数学方式。动态规划一般分为线性动规，区域动规，树形动规，背包动规。
动态规划是一种方法，但不是一种算法，一般用于多决策中的最优化问题，具有递推的思想。动态规划与分治法类似，基本思想都是把待解问题分解成若干个子问题，先求解子问题，然后由这些子问题的解得到原问题的解。但分治法中分解得到...
分类：
其他好文 时间：
2014-10-21 21:35:23
阅读次数：
214
L-BFGS算法比较适合在大规模的数值计算中，具备牛顿法收敛速度快的特点，但不需要牛顿法那样存储Hesse矩阵，因此节省了大量的空间以及计算资源。本文主要通过对于无约束最优化问题的一些常用算法总结，一步步的理解L-BFGS算法，本文按照最速下降法 - 牛顿法 - 共轭梯度法 - 拟牛顿法 - DFP...
分类：
其他好文 时间：
2014-10-14 17:37:39
阅读次数：
349
动态规划方法通常用来求解最优化问题，这些问题有很多种解，但我们希望寻求最优解。 满足两个条件既可以使用动态规划1.具有最优子结构 2.子问题重叠至于这两点是什么意思？先看个问题现在有个钢筋长度和价格对应的表，问：给你个长度为n的钢筋怎么卖最划算？ 长度...
分类：
编程语言 时间：
2014-10-13 00:28:38
阅读次数：
297
题意：有n个村庄，村庄在不同坐标和海拔，现在要对所有村庄供水，只要两个村庄之间有一条路即可，
建造水管距离为坐标之间的欧几里德距离（好象是叫欧几里德距离吧），费用为海拔之差
现在要求方案使得费用与距离的比值最小
很显然，这个题目是要求一棵最优比率生成树，
0-1分数规划，0-1分数规划是分数规划的一种特殊情况，分数规划适用于求解最优化问题的，对于...
分类：
其他好文 时间：
2014-09-29 20:43:02
阅读次数：
172
概述：
动态规划是通过组合子问题的解而解决整个问题的。
动态规划适用于子问题不是独立的情况，也就是各子问题的包含公共的子子问题。
动态规划对每个子问题只求解一次，将其结果保存在一张表中。
动态规划通常用于最优化问题。
动态规划的设计步骤：a.描述最优解的结构b.递归定义最优解的值c.按自底向上的方式计算最优觖的值d.由计算出的结构构造一个最优解
15.1钢条切割...
分类：
其他好文 时间：
2014-08-18 14:34:02
阅读次数：
367
分支界定法是求解整数线性规划最优解的经典方法。定义： 对有约束条件的最优化问题（其可行解为有限数）的所有可行解空间恰当地进行系统搜索，这就是分支与界定的内容。通常把全部解空间反复地分割为越来越小的子集，称为分枝；并对每个子集内的解集计算一个目标下界（对于最小值问题），这称为定界。在每次分枝后，若某....
分类：
其他好文 时间：
2014-08-17 16:46:32
阅读次数：
433
CSDN的博主poson在他的博文《机器学习的最优化问题》中指出“机器学习中的大多数问题可以归结为最优化问题”。我对机器学习的各种方法了解得不够全面，本文试图从凸优化的角度说起，简单介绍其基本理论和在机器学习算法中的应用。 1.动机和目的 人在面临选择的时候重视希望自己能够做出“最好”的选择，如果把...
分类：
其他好文 时间：
2014-08-16 21:03:31
阅读次数：
192
思路:给定一系列时刻表，求能满足各个时刻的最小火车数量。打眼一看， 把此题归入到最大流，仔细一想不符合流网络的规律，换思路。由于是一个最优化问题，自然想到动态规划和贪心。最后确定贪心。从最早出发的火车切入，到目的地后便可以选择下一次满足的时刻表，贪心思想找最近的一个时刻表（关于贪心的证明可以参看《图...
分类：
其他好文 时间：
2014-08-14 16:17:18
阅读次数：
222
一、基本概念
动态规划过程是：每次决策依赖于当前状态，又随即引起状态的转移。一个决策序列就是在变化的状态中产生出来的，所以，这种多阶段最优化决策解决问题的过程就称为动态规划。
动态规划是运筹学中用于求解决策过程中的最优化数学方法。当然，我们在这里关注的是作为一种算法设计技术，作为一种使用多阶段决策过程最优的通用方法。它是应用数学中用于解决某类最优化问题的重要工具。
如果问题是由交叠的子问题所...
分类：
其他好文 时间：
2014-08-13 03:36:25
阅读次数：
385
