多维优化问题的迭代求解算法中，经常遇到学习率（步长）参数问题，比如线性分类器。一般如果采用固定学习率，那么算法收敛将比较慢，为了提高收敛速度往往需要不断调整学习率。一般多维优化问题中的迭代算法中的迭代公式为： xk+1=xk+rk dk 其中 xk 从给定的初始搜索点 x0 迭代，rk>=0为第k次 ...
分类：
编程语言 时间：
2016-12-04 00:40:56
阅读次数：
327
前面介绍的黄金分割法、斐波那契数列法、二分法、牛顿法、割线法寻找极小点方法的前提是： 给定初始区间，它包含一个单峰的f(x)。 如何寻找这个初始区间？ 划界法：（挑选一个含有极小点的区间） 随机挑选3个点x1、x2、x3, 如果 f(x2)<f(x1) 且 f(x2)<f(x3) ，那么 [x1, ...
分类：
编程语言 时间：
2016-12-03 21:10:09
阅读次数：
245
1、二分法（一阶导） 二分法是利用目标函数的一阶导数来连续压缩区间的方法，因此这里除了要求 f 在 [a0,b0] 为单峰函数外，还要去 f(x) 连续可微。 （1）确定初始区间的中点 x(0)=(a0+b0)/2 。然后计算 f(x) 在 x(0) 处的一阶导数 f'(x(0))， 如果 f'(x ...
分类：
编程语言 时间：
2016-12-03 20:34:22
阅读次数：
406
目标函数为一元单值函数f：R->R的最小化优化问题，一般不会单独遇到，它通常作为多维优化问题中的一个部分出现，例如梯度下降法中每次最优迭代步长的估计。 一维搜索方法是通过迭代方式求解的，这不同于我们人脑的直接通过解表达式求解方法。迭代算法是从初始搜索点x(0)出发，产生一个迭代序列x(1),x(2) ...
分类：
编程语言 时间：
2016-12-03 18:35:19
阅读次数：
740
不管哪一种数值算法，其设计原理都是将复杂转化为简单的重复，或者说，通过简单的重复生成复杂，在算法设计和算法实现过程中，重复就是力量[1]。 题记 一般地，线性方程组可以表达为 Ax = b其中，A称为系数矩阵，b称为右端项，x为待求的未知数向量。 迭代法的适用场合。如果未知数个数不多的话，用消去法（ ...
分类：
其他好文 时间：
2016-10-29 22:21:22
阅读次数：
582
本篇文章主要介绍泛型算法中的变易、排序、数值算法。 一、 变易算法 所谓变易算法是指那些改变容器中的对象的操作。 1.1 copy组 template OutputIterator copy (InputIterator first, InputIterator last, OutputIterat... ...
分类：
其他好文 时间：
2016-09-01 12:49:11
阅读次数：
180
C++ 应用程序性能优化 C++ 应用程序性能优化 eryar@163.com 1. Introduction 对于几何造型内核OpenCASCADE，由于会涉及到大量的数值算法，如矩阵相关计算，微积分，Newton迭代法解方程，以及非线性优化的一些算法，如BFGS，FRPR，PSO等等用于多元函数 ...
分类：
编程语言 时间：
2016-08-01 10:22:02
阅读次数：
289
对于几何造型内核OpenCASCADE，由于会涉及到大量的数值算法，如矩阵相关计算，微积分，Newton迭代法解方程，以及非线性优化的一些算法，如BFGS，FRPR，PSO等等用于多元函数的极值求解，所以这些数值算法的性能直接影响系统的性能。软件的性能优化是计算机软件开发过程中需要一直关注的重要因素... ...
分类：
编程语言 时间：
2016-07-31 14:18:32
阅读次数：
288
你站在桥上看风景，看风景的人在楼上看你。明月装饰了你的窗子，你装饰了别人的梦。
——《断章》卞之琳本月有11本新书：
经典巨著《计算机程序设计艺术 卷2：半数值算法（第3版）》
两本python《Python编程：从入门到实践》《精通Python设计模式》
一本《垃圾回收的算法与实现》
两本进阶《C#敏捷开发实践》《Android Launcher应用开发》
一本《倒漏斗营销：从现有客户...
分类：
其他好文 时间：
2016-07-19 10:41:44
阅读次数：
145
STL之算法总结
STL算法部分主要由头文件,,组成。
要使用 STL中的算法函数必须包含头文件，
对于数值算法须包含，中则定义了一些模板类，用来声明函数对象。
STL中算法大致分为四类：
1、非可变序列算法：指不直接修改其所操作的容器内容的算法。
2、可变序列算法：指可以修改它们所操作的容器内容的算法。
3、排序算...
分类：
编程语言 时间：
2016-05-19 17:47:59
阅读次数：
235
