一、牛顿法
在博文“优化算法——牛顿法(Newton
Method)”中介绍了牛顿法的思路，牛顿法具有二阶收敛性，相比较最速下降法，收敛的速度更快。在牛顿法中使用到了函数的二阶导数的信息，对于函数，其中表示向量。在牛顿法的求解过程中，首先是将函数在处展开，展开式为：
其中，，表示的是目标函数在的梯度，是一个向量。，表示的是目标函数在处的Hesse矩阵。省略掉...
分类：
编程语言 时间：
2015-05-19 22:37:25
阅读次数：
493
拟牛顿法(Quasi-Newton Methods)是求解非线性优化问题最有效的方法之一，于20世纪50年代由美国Argonne国家实验室的物理学家W. C. Davidon所提出来。Davidon设计的这种算法在当时看来是非线性优化领域最具创造性的发明之一。不久R.
Fletcher和M. J. D. Powell证实了这种新的算法远比其他方法快速和可靠，使得非线性优化这门学科在一夜之间突飞...
分类：
编程语言 时间：
2015-04-26 21:14:19
阅读次数：
224
游戏开发者：广告最佳做法
简介
前提条件
实用的入门信息
OpenGL
游戏 - 横幅广告
iOS
Android
Unity
要求
将插件导入到游戏中
Unity
插件 API
AdMob
中介支持
DFP
广告管理系统支持
Cocos2d-x
要求
将
AnySDK 导入到游戏中
AnySD...
分类：
其他好文 时间：
2015-04-10 15:43:09
阅读次数：
420
源码基于Android 4.4。am start -W -n com.dfp.test/.TEstActivity-W：等目标Activity启动后才返回-n：用于设置Intent的ComponentAm.java->run()->runStart()——intent = makeIntent();...
分类：
移动开发 时间：
2015-01-13 00:00:38
阅读次数：
2867
L-BFGS算法比较适合在大规模的数值计算中，具备牛顿法收敛速度快的特点，但不需要牛顿法那样存储Hesse矩阵，因此节省了大量的空间以及计算资源。本文主要通过对于无约束最优化问题的一些常用算法总结，一步步的理解L-BFGS算法，本文按照最速下降法 - 牛顿法 - 共轭梯度法 - 拟牛顿法 - DFP...
分类：
其他好文 时间：
2014-10-14 17:37:39
阅读次数：
349
这个小程序是研一上学期的“工程优化”课程的大作业。其实这题本可以用 MATLAB 实现，但是我为了锻炼自己薄弱的编码能力，改为用 C 语言实现。这样，就得自己实现矩阵的运算（加减乘除、求逆、拷贝）；难点是求偏导，通过查资料，发现可以通过导数定义，即取极限的方法，来逐步逼近求得梯度；另外，没法做到输入...
分类：
其他好文 时间：
2014-07-21 08:19:43
阅读次数：
376
机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering
算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是
L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。目录...
分类：
其他好文 时间：
2014-06-02 07:31:21
阅读次数：
227
