大多数的优化问题都会加入特定的约束，而不仅仅是指定起点和终点，此时需要更好的办法去解决优化问题，拉格朗日乘数法正是一种求约束条件下极值的方法。简单地说，拉格朗日乘数法(又称为拉格朗日乘数法)是用来最小化或最大化多元函数的。如果有一个方程f(x,y,z)，在这个方程里的变量之间不是独立的，也就是说这些... ...
分类：
其他好文 时间：
2018-08-23 19:39:29
阅读次数：
302
【摘要】最大割问题(Max-cut Problem)是一个典型的NP难组合优化问题。文章采用遗传算法、分布估计算法、Hopfield网络方法、蚁群算法、粒子群算法等5种算法对最大割问题进行求解,并用标准的多个不同规模最大割测试数据进行测试,研究各参数对算法的影响,并比较各种算法的时间复杂度和空间复杂 ...
分类：
编程语言 时间：
2018-08-22 16:51:26
阅读次数：
135
拉格朗日对偶 对偶是最优化方法里的一种方法，它将一个最优化问题转换成另外一个问题，二者是等价的。拉格朗日对偶是其中的典型例子。对于如下带等式约束和不等式约束的优化问题： 与拉格朗日乘数法类似，构造广义拉格朗日函数： 必须满足 的约束。 原问题为： 即先固定住x，调整拉格朗日乘子变量，让函数L取极大值 ...
分类：
其他好文 时间：
2018-08-21 14:01:02
阅读次数：
149
机器学习算法的目标是降低期望泛化误差。这个数据量被称为 风 险（risk）。在这里，我们强调该期望取自真实的潜在分布 p_data 。如果我们知道了真 实分布 p_data (x, y)，那么最小化风险变成了一个可以被优化算法解决的优化问题。然 而，我们遇到的机器学习问题，通常是不知道 p_da... ...
分类：
编程语言 时间：
2018-08-19 12:59:39
阅读次数：
228
动态规划问题的步骤 1、描述最优解的结构 2、递归定义最优解的值 3、自底向上计算最优解的值 4、由计算的结果构造最优解 一般要在第3步记录一些附加信息， 自底向上逐步计算还有另外一种方法，可以带备忘录自顶而下计算。 15.1 装配线调度 15.2 矩阵链乘法 15.3 动态规划原理 最优化问题应该 ...
分类：
编程语言 时间：
2018-08-17 11:18:59
阅读次数：
172
关于非凸优化的方法， https://blog.csdn.net/kebu12345678/article/details/54926287 提到，可以把非凸优化转换为凸优化，通过修改一些条件。 非凸优化问题如何转化为凸优化问题的方法：1）修改目标函数，使之转化为凸函数2）抛弃一些约束条件，使新的可 ...
分类：
其他好文 时间：
2018-08-15 17:46:33
阅读次数：
469
共轭梯度法 [TOC] 我们关注共轭梯度法主要有两个原因 1. 它们是求解大规模矩阵方程最有效的方法之一 2. 它们可以经过一些调整去处理非线性的最优化问题 本章我们将讨论共轭梯度法在处理 线性 和 非线性 问题上的优越性质。 首先，线性共轭梯度法是高斯消元法的变种，它适用于处理大规模矩阵方程问题， ...
分类：
其他好文 时间：
2018-08-10 19:47:44
阅读次数：
194
（本章主要参考李航老师的《统计学习方法》，其次是周志华老师的《机器学习》。通过自己的阅读，提炼出书中的知识点以及些许自己部分的理解(可能不到位)，巩固所学知识。） 统计学习方法概论 本章简要叙述统计学习方法的一些基本概念.首先许如统计学习的定义、研究对象与方法；然后叙述监督学习；接着提出统计学习方法 ...
分类：
其他好文 时间：
2018-08-03 20:17:43
阅读次数：
184
相信做运维的同仁，进行运维环境初建时，必须要考虑到操作系统内核参数的优化问题，本人经历数次的运维环境重建后，决定要自行收集一份比较完善的系统内核参数优化说明文件出来，于是就有了下文，本文当前值是官方默认参数，建议参数直接添加于sysctl -a输出的结果每一行的后面，希望对运维的同仁做系统内核参数调优时有所帮助。废话不多讲，直接上干货！
分类：
系统相关 时间：
2018-07-30 17:16:41
阅读次数：
1412
网络流(network-flows)是一种类比水流的解决问题方法，与线性规划密切相关。是图论中的一种理论与方法，研究网络上的一类最优化问题 。 ...
分类：
其他好文 时间：
2018-07-26 22:10:52
阅读次数：
220
