机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering
算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是
L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。目录...
分类：
其他好文 时间：
2014-06-02 07:31:21
阅读次数：
227
机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering
算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是
L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。目录链接....
分类：
其他好文 时间：
2014-06-02 07:30:03
阅读次数：
249
议题：动态规划（Dynamic
Programming）分析：DP主要用于解决包含重叠子问题（Overlapping
Subproblems）的最优化问题，其基本策略是将原问题分解为相似的子问题，通过求解并保存最简单子问题的解，然后逐步合并成为原问题的解，由于需
要查询子问题的解，所以需要一个表格记...
分类：
其他好文 时间：
2014-05-28 23:47:18
阅读次数：
463
概述： 最大团问题（Maximum Clique Problem,
MCP）是图论中一个经典的组合优化问题，也是一类NP完全问题。最大团问题又称为最大独立集问题（Maximum Independent Set
Problem）。目前，求解MCP问题的算法主要分为两类：确定性算法和启发式算法。确定性....
分类：
其他好文 时间：
2014-05-26 23:39:27
阅读次数：
421
转自http://blog.csdn.net/xianlingmao/article/details/7919597在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange
Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值...
分类：
其他好文 时间：
2014-05-26 09:57:21
阅读次数：
221
oracle数据库的内部优化是一个复杂的问题，在你认为对oracle的内部已有所领会的时候，殊不知，oracle又去掉了一些老的特性，添加了一些新的特性。oracle涉及到一些关键性问题，例如分析、诊断，以及修正数据库的内部性能的问题。
分类：
数据库 时间：
2014-05-18 19:05:50
阅读次数：
274
一 几个概念：
最优化问题：有n个输入，它的解由这n个输入的一个子集组成，这个子集必须满足某些事先给定的条件，这些条件称为约束条件，满足约束条件的解称为问题的可行解。满足约束条件的可行解可能不止一个，为了衡量这些可行解的优劣，事先给出一定的标准，这些标准通常以函数的形式给出，这些标准函数称为目标函数，使目标函数取得极值的可行解成为最优解，这类问题称为最优化问题。
二 最优性原理：
对...
分类：
其他好文 时间：
2014-05-15 12:17:50
阅读次数：
397
原文:收藏的一些javascript片段学习js也很有一段时间，收集了一些js的片段。特地整理排版了一下，以一个js初学者的视界来分析注释了这些代码段，暂且不去讨论它的性能和优化问题，相信会对一些初学者有用。第一次发文，定许多纰漏和不足的地方，希望可以交流和学习。1
javascript动态加载--...
分类：
编程语言 时间：
2014-05-12 07:57:16
阅读次数：
461
贪婪法（Greedy）又叫登山法，它的根本思想是逐步到达山顶，即逐步获得最优解，是解决最优化问题时的一种简单但适用范围有限的策略。“贪婪”可以理解为以逐步的局部最优，达到最终的全局最优。...
分类：
其他好文 时间：
2014-05-11 06:34:39
阅读次数：
1444
一、核函数的引入
问题1：
SVM显然是线性分类器，但数据如果根本就线性不可分怎么办？
解决方案1：
数据在原始空间（称为输入空间）线性不可分，但是映射到高维空间（称为特征空间）后很可能就线性可分了。
问题2：
映射到高维空间同时带来一个问题：在高维空间上求解一个带约束的优化问题显然比在低维空间上计算量要大得多，这就是所谓的“维数灾难”。
解决方案2：
于是就引入了“核...
分类：
其他好文 时间：
2014-05-11 04:12:21
阅读次数：
443
