这几天在看《统计学习方法》这本书,发现 梯度下降法在 感知机 等机器学习算法中有很重要的应用,所以就特别查了些资料。 一.介绍 梯度下降法(gradient descent)是求解无约束最优化问题的一种常用方法,有实现简单的优点。梯度下降法是迭代算法,每一步需要求解目标函数的梯度向量。二.应用...
分类:
其他好文 时间:
2015-06-06 06:48:06
阅读次数:
124
优化的边界分类器
上一讲里我们介绍了函数边界和几何边界的概念,给定一组训练样本,如果能够找到一条决策边界,能够使得几何边界尽可能地大,这将使分类器可以很可靠地预测训练样本,特别地,这可以让分类器用一个“间隔”将正负样本分开。
现在,我们假设给定的一组训练样本是线性可分的,即有可能找到这样一条分界面,将正负样本分开。如何找到这样一个分界面可以使得几何边界最大?我们将这个优化问题用如下的表达式给出...
分类:
系统相关 时间:
2015-06-05 15:52:27
阅读次数:
242
一,子集和问题的动态解1)子集和问题:给定一组整数构成的一个集合S,并给定另一个整数W,问:在S中是否存在一个子集A 包含于(属于) S,有A中所有元素的和等于W?(∑a(i)εAa(i) = W ?)2) 很明显,子集和问题是NPC问题,证明参考《算法导论第二版中文版》第627页。既然它是NPC的...
分类:
其他好文 时间:
2015-05-30 17:59:57
阅读次数:
841
对于我们前端开发人员来说,最繁琐的莫过于页面的优化以及浏览器兼容问题,今天我就浅谈一下关于页面的优化问题。设计和构造计算机程序要经过成千上万次抉择,每个选择都有其显著的优缺点,而我们又期望收益最大化,损耗最小化,那我们肯定就只有选择最利于我们并且整体开销最小的方法,优化的原则也就是这个。显然,优.....
分类:
其他好文 时间:
2015-05-30 13:25:41
阅读次数:
92
一 什么是最优化问题 当希望尽量获得最多(或做少)的某种东西,而为了是实现这个目的需要改变其他一些量的数字,这就是一个最优化的问题。二 解决方式 为了解决一个最优化问题,需要将决策变量、约束条件及希望最大化的目标合并成一个目标函数。且任何最优化问题都有一些约束条件和一个目标函数 P=c1*x1...
分类:
其他好文 时间:
2015-05-26 20:55:11
阅读次数:
144
动态规划是一种高效算法,常用来求解最优化问题。本例中以寻找最长回文子序列为例来设计动态规划算法最长回文子序列:回文是指正序与逆序相同的飞空字符串。比如civic,racecar自身都是自己的最长回文子序列。比如character的最长回文子序列为carac。动态规划一般分为四个步骤:1,刻画一个最优...
分类:
编程语言 时间:
2015-05-26 17:58:58
阅读次数:
141
动态规划算法和分治法基本思想类似,但又有不同之处。它适用于求解最优化问题。 一. 基本思想 动态规划算法与分治法类似,其基本思想也是将待求解问题分解成若干个子问题,先求解子问题,然后从这些子问题的解得到原问题的解。与分治法不同的是,适合于用动态规划法求解的问题,经分解得到的子问题往往不是互相独立的。...
分类:
其他好文 时间:
2015-05-23 16:43:28
阅读次数:
139
动态规划( dynamic programming )算法是解决多阶段决策过程最优化问题的一种常用方法,难度比较大,技巧性也很强。利用动态规划算法,可以优雅而高效地解决很多贪婪算法或分治算法不能解决的问题。动态规划算法的基本思想是:将待求解的问题分解成若干个相互联系的子问题,先求解子问题,然后从这些...
分类:
其他好文 时间:
2015-05-19 10:14:23
阅读次数:
155
窃贼问题是一个典型的最优化问题。窃贼问题的大意如下:有一个窃贼带着一个背包去偷东西,房屋中共有5件物品,其重量和价值如下:物品1:6公斤,48元物品2: 5公斤,40元物品3: 2公斤,12元物品4: 1公斤,8元物品5: 1公斤,7元。窃贼希望能够拿最大价值的东西,而窃贼的背包最多可装重量为8公斤...
分类:
其他好文 时间:
2015-05-18 22:25:38
阅读次数:
112
问题SQL!!(开发上观察到的) SELECT
stock.stockbike_id,
stock.b_s_name_i_n AS b_s_name_i_n,
stock.nenshiki_t_no_n,
stock.soukou_n,
stock.normal_flag,
stock.one_owner_flag...
分类:
数据库 时间:
2015-05-18 16:58:48
阅读次数:
158