参考资料： 对偶函数-http://blog.pluskid.org/?p=702 KTT和拉格朗日乘子-http://www.cnblogs.com/zhangchaoyang/articles/2726873.html SVM推倒：http://blog.sina.com.cn/s/blog_4 ...
分类：
其他好文 时间：
2017-10-20 20:20:20
阅读次数：
259
一、正则化的假设集合 通过从高次多项式的H退回到低次多项式的H来降低模型复杂度, 以降低过拟合的可能性, 如何退回? 通过加约束条件： 如果加了严格的约束条件, 没有必要从H10退回到H2, 直接使用H2就可以了。 加上松弛点的约束条件, 使得模型比H2复杂, 但到不了H10那么复杂。 二、权重衰减 ...
分类：
其他好文 时间：
2017-10-18 23:12:22
阅读次数：
305
在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，只有当是凸函数的情况下，才能 ...
分类：
其他好文 时间：
2017-10-13 20:18:58
阅读次数：
124
这篇将拉格朗日函数比较全面，其中明确给出了拉格朗日函数，拉格朗日乘子的定义 深入理解拉格朗日乘子法（Lagrange Multiplier) 和KKT条件 ...
分类：
其他好文 时间：
2017-10-11 11:00:21
阅读次数：
107
给定 $n$ 个点 $(x_1, y_1), (x_2, y_2), ..., (x_n, y_n)$ , 其中 $x_1, x_2, ..., x_n$ 互不相等, 构造一个最高次不超过 $n-1$ 的多项式 $F(x)$ 过这 $n$ 个点. 首先, 这个多项式有且仅有一个, 我们可以通过范德蒙 ...
分类：
其他好文 时间：
2017-10-02 15:49:35
阅读次数：
248
拉格朗日中值定理又称拉氏定理，是微分学中的基本定理之一，它反映了可导函数在闭区间上的整体的平均变化率与区间内某点的局部变化率的关系。 ...
分类：
其他好文 时间：
2017-09-27 00:40:51
阅读次数：
156
牛顿插值法 一、背景引入 相信朋友们，开了拉格朗日插值法后会被数学家的思维所折服，但是我想说有了拉格朗日插值法还不够，因为我们每次增加一个点都得重算所有插值基底函数，这样会增加计算量，下面我们引入牛顿插值法，这种插值法，添加一个插值结点我们只要做很小的变动便可以得到新的插值多项式。 二、理论推导 - ...
分类：
编程语言 时间：
2017-09-25 20:50:17
阅读次数：
287
T1 我已经被拉格朗日插值蒙蔽了双眼，变得智障无比。 第一反应就是拉格朗日插值，然后就先放下了它。 模数那么小，指数那么大，这是一套noip模拟题，拉格朗日，你脑袋秀逗了？ 无脑暴力20分贼开心。 因为模数很小，所有大于模数的数可以先mod再算，就相当于多次用了从0到mod-1的答案。 对于0到mo ...
分类：
其他好文 时间：
2017-09-21 15:45:24
阅读次数：
96
支持向量机 支持向量机（support vector machines，SVMs）是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规 ...
分类：
系统相关 时间：
2017-09-17 20:58:45
阅读次数：
318
第二部分：转化为对偶问题进一步简化 这一部分涉及的数学原理特别多。如果有逻辑错误希望可以指出来。 上一部分得到了最大间隔分类器的基本形式： 其中i=1,2,3...m 直接求的话一看就很复杂，我们还需要进一步简化。 这里就需要介绍拉格朗日乘子法。介绍它还是从最最简单的形式说起： 一.关于优化问题的最 ...
分类：
其他好文 时间：
2017-09-17 17:33:30
阅读次数：
227
