一、SVM原问题及要变成对偶问题的解决办法 对于SVM的，我们知道其终于目的是求取一分类超平面，然后将新的数据带入这一分类超平面的方程中，推断输出结果的符号，从而推断新的数据的正负。而求解svm分类器模型。终于能够化成例如以下的最优化问题： minw,bs.t.12∥w∥21?yi(w?xi+b)≤ ...
分类：
其他好文 时间：
2017-06-24 10:11:17
阅读次数：
345
从DFS到记忆化DFS到动态规划 什么是动态规划？ 动态规划（Dynamic Programming）是通过组合子问题的解来解决问题的。动态规划是用于求解包含重叠子问题的最优化问题的方法。其基本思想是，将原问题分解为相似的子问题。在求解的过程中通过子问题的解求出原问题的解。 动态规划的分类： 1. ...
分类：
其他好文 时间：
2017-06-11 17:28:19
阅读次数：
231
步长：最优化问题中的叫法； 学习速率：神经网络中的叫法； 梯度更新的方式： 为步长（学习率）。 其中有必要说一点的是表示的是当前实际的输出，y表示的是其类标。 当输入为x时，目标函数表示为一个线性函数的形式为：。其中每一个x1,x2,...表示的是维度。 1. 梯度下降：对于的更新是所有样本都参与的 ...
分类：
其他好文 时间：
2017-05-05 00:47:13
阅读次数：
215
问题可以分解成若干相互联系的阶段，在每一个阶段都要做出决策，全部过程的决策是一个决策序列。要使整个活动的总体效果达到最优的问题，称为多阶段决策问题。动态规划就是解决多阶段决策最优化问题的一种思想方法。 阶段 将所给问题的过程，按时间或空间特征分解成若干相互联系的阶段，以便按次序去求每阶段的解 状态 ...
分类：
其他好文 时间：
2017-04-26 21:37:43
阅读次数：
219
基本模型 多阶段决策过程的最优化问题。 含有递推的思想以及各种数学原理（加法原理，乘法原理等等）。 在现实生活中，有一类活动的过程，由于它的特殊性，可将过程分成若干个互相联系的阶段，在它的每一阶段都需要作出决策，从而使整个过程达到最好的活动效果。当然，各个阶段决策的选取不是任意确定的，它依赖于当前面 ...
分类：
其他好文 时间：
2017-04-26 21:28:15
阅读次数：
210
●2017.3.31 ●学习内容：网络流之求解最大流算法 引：最大流问题(maximum flow problem)，一种组合最优化问题，就是要讨论如何充分利用装置的能力，使得运输的流量最大，以取得最好的效果。 ●算法（e，我学了的……） 枚举算法： 由最小切割=最大流定理而来的暴力求法： 枚举所有... ...
分类：
其他好文 时间：
2017-03-31 21:33:36
阅读次数：
270
题目描述： 在周长10000的圆上,初始等距的放置着n个雕塑,现在新加入m个雕塑,要使得这n+m个雕塑仍然等距,问原来n个雕塑要移动的距离总和的最小值. 原题地址： http://acm.hust.edu.cn/vjudge/problem/viewProblem.action?id=15133 分 ...
分类：
其他好文 时间：
2017-03-14 22:46:02
阅读次数：
179
（注：本文内容和图片来源于林轩田老师的《机器学习基石》课程） 1 引入逻辑回归 通常的二分类问题，希望输出类别；soft的二分类问题，希望输出概率值： 对于soft问题的理想数据和实际数据： 逻辑回归的思想：先求出特征的线性加权分数，再把它用逻辑斯蒂函数转化为0～1之间的值： 逻辑斯蒂函数介绍： 2 ...
分类：
其他好文 时间：
2016-12-06 14:02:04
阅读次数：
367
著名的模拟退火算法，它是一种基于蒙特卡洛思想设计的近似求解最优化问题的方法。 一点历史——如果你不感兴趣，可以跳过 美国物理学家 N.Metropolis 和同仁在1953年发表研究复杂系统、计算其中能量分布的文章，他们使用蒙特卡罗模拟法计算多分子系统中分子的能量分布。这相当于是本文所探讨之问题的开 ...
分类：
编程语言 时间：
2016-11-21 07:55:19
阅读次数：
332
解决最优化问题 ： 稍微对它做一下改动，如下： 这是一个约束优化问题，更进一步说是一个二次规划问题，复习一下约束优化问题： 定义1：约束非线性问题是， 其中和都是定义在上的实值连续函数，且至少有一个是非线性的(反之为线性约束优化问题)，m是一个正整数，叫做目标函数，叫做约束函数，如果目标函数是二次函 ...
分类：
其他好文 时间：
2016-11-04 21:02:38
阅读次数：
654
