顾名思义，贪心算法总是作出在当前看来最好的选择。也就是说贪心算法并不从整体最优考虑，它所作出的选择只是在某种意义上的局部最优选择。当然，希望贪心算法得到的最终结果也是整体最优的。虽然贪心算法不能对所有问题都得到整体最优解，但对许多问题它能产生整体最优解。如单源最短路经问题，最小生成树问题等。在一些情 ...
分类：
编程语言 时间：
2017-10-06 11:41:33
阅读次数：
163
这或许是众多OIer最大的误区之一。 你会经常看到网上出现“这怎么做，这不是NP问题吗”、“这个只有搜了，这已经被证明是NP问题了”之类的话。你要知道，大多数人此时所说的NP问题其实都是指的NPC问题。他们没有搞清楚NP问题和NPC问题的概念。NP问题并不是那种“只有搜才行”的问题，NPC问题才是。 ...
分类：
其他好文 时间：
2017-10-01 13:39:35
阅读次数：
198
转自http://www.cnblogs.com/ldphoebe/p/5000769.html 函数间隔的取值并不影响最优化问题的解，因为成比例的改变w和b目标函数和约束条件都不受到影响，所以我们可以让函数间隔为1. 目标函数就变为1/||w||,由于让1/||w||最大化，等价于让分母||w|| ...
分类：
其他好文 时间：
2017-09-24 23:32:53
阅读次数：
2178
梯度下降法（gradient descent），又名最速下降法（steepest descent）是求解无约束最优化问题最常用的方法，它是一种迭代方法，每一步主要的操作是求解目标函数的梯度向量，将当前位置的负梯度方向作为搜索方向（因为在该方向上目标函数下降最快，这也是最速下降法名称的由来）。梯度下降 ...
分类：
编程语言 时间：
2017-09-22 19:04:33
阅读次数：
229
第三部分：SMO算法的个人理解 接下来的这部分我觉得是最难理解的？而且计算也是最难得，就是SMO算法。 SMO算法就是帮助我们求解： s.t. 这个优化问题的。 虽然这个优化问题只剩下了α这一个变量，但是别忘了α是一个向量，有m个αi等着我们去优化，所以还是很麻烦，所以大神提出了SMO算法来解决这个 ...
分类：
编程语言 时间：
2017-09-17 23:37:08
阅读次数：
461
zh.wikipedia.org/wiki/凸優化 以下问题都是凸优化问题，或可以通过改变变量而转化为凸优化问题：[5] 最小二乘 线性规划 线性约束的二次规划 半正定规划 Convex function Convex minimization is a subfield of optimizati ...
分类：
其他好文 时间：
2017-09-17 22:50:54
阅读次数：
160
在求解机器学习算法的优化问题时，梯度下降是经常采用的方法之一。 梯度下降不一定能够找到全局最优解，有可能是一个局部最优解。但如果损失函数是凸函数，梯度下降法得到的一定是全局最优解。 梯度下降的相关概念： 1、步长或学习率（learning rate）：步长和学习率是一个东西，只是在不同的地方叫法不一 ...
分类：
其他好文 时间：
2017-09-17 21:04:27
阅读次数：
275
第二部分：转化为对偶问题进一步简化 这一部分涉及的数学原理特别多。如果有逻辑错误希望可以指出来。 上一部分得到了最大间隔分类器的基本形式： 其中i=1,2,3...m 直接求的话一看就很复杂，我们还需要进一步简化。 这里就需要介绍拉格朗日乘子法。介绍它还是从最最简单的形式说起： 一.关于优化问题的最 ...
分类：
其他好文 时间：
2017-09-17 17:33:30
阅读次数：
227
我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。最优化方法是一种数学方法，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一(或某些)指标达到最优的一些学科的总称。随着学习的深入，博主越来越发现最优化方法的 ...
分类：
其他好文 时间：
2017-09-16 22:05:03
阅读次数：
237
简介:mysql服务优化分为 1服务器本身的优化 2mysql本身的性能优化 今天咱们来讨论下服务器本身的优化性能 一 参数的优化简介 1 文件系统的选择 Linux 常用文件系统： ext3, ext4, XFS, ReiserFS, JFS 其中最常用的是 ext4, XFS。非常不建议用低于e ...
分类：
数据库 时间：
2017-09-15 16:37:54
阅读次数：
240
