对SVM的个人理解之前以为SVM很强大很神秘，自己了解了之后发现原理并不难，不过，“大师的功力在于将idea使用数学定义它，使用物理描述它”，这一点在看SVM的数学部分的时候已经深刻的体会到了，最小二乘法、梯度下降法、拉格朗日乘子、对偶问题等等被搞的焦头烂额。在培乐园听了讲课之后才算比较清晰的了解了...
分类：
其他好文 时间：
2015-06-19 21:32:03
阅读次数：
278
引言
这一讲及接下来的几讲，我们要介绍supervised learning 算法中最好的算法之一：Support Vector Machines (SVM,支持向量机)。为了介绍支持向量机，我们先讨论“边界”的概念，接下来，我们将讨论优化的边界分类器，并将引出拉格朗日数乘法。我们还会给出 kernel function 的概念，利用 kernel function，可以有效地处理高维(甚至无限...
分类：
系统相关 时间：
2015-06-05 15:52:05
阅读次数：
271
题目大意：给定nn和集合SS，求满足下列要求的多叉树的个数：
1.每个非叶节点的子节点数量在集合SS中
2.每个叶节点的权值为11，每个非叶节点的权值为子节点权值之和
3.根节点的权值为nn
注意每个节点的子节点有顺序令fif_i表示根节点权值为ii的神犇二叉树个数，F(x)F(x)为fif_i的生成函数，C(x)C(x)为SS的生成函数，那么有：
F(x)=∑i∈SFi(x)+xF(x)...
分类：
其他好文 时间：
2015-06-04 22:49:24
阅读次数：
280
Description蛋蛋非常热衷于挑战自我，今年暑假他准备沿川藏线骑着自行车从成都前往拉萨。川藏线的沿途有着非常美丽的风景，但在这一路上也有着很多的艰难险阻，路况变化多端，而蛋蛋的体力十分有限，因此在每天的骑行前设定好目的地、同时合理分配好自己的体力是一件非常重要的事情。
由于蛋蛋装备了一辆非常好的自行车，因此在骑行过程中可以认为他仅在克服风阻做功（不受自行车本身摩擦力以及自行车与地面的摩擦力影响...
分类：
其他好文 时间：
2015-05-21 10:56:11
阅读次数：
168
对于线性回归式Y=wtX，y中的每个特征都与x的所有特征相关联，但无法表示y的各个特征之间的联系。 为此需要将整体表示成Y和X各自特征间的线性组合，也就是考察aTx和bTy之间的关系，用相关系数表示， 因此，问题就转化为求一组a,b使得相关系数最大，用拉格朗日求解。
分类：
其他好文 时间：
2015-05-07 08:44:27
阅读次数：
222
引言：尝试用最简单易懂的描述解释清楚机器学习中会用到的拉格朗日对偶性知识，非科班出身，如有数学专业博友，望多提意见！1.原始问题假设是定义在上的连续可微函数（为什么要求连续可微呢，后面再说，这里不用多想），考虑约束最优化问题：称为约束最优化问题的原始问题。现在如果不考虑约束条件，原始问题就是：因为假...
分类：
其他好文 时间：
2015-04-18 10:03:30
阅读次数：
158
SVM有一个核心函数SMO，也就是序列最小最优化算法。SMO基本是最快的二次规划优化算法，其核心就是找到最优参数α，计算超平面后进行分类。SMO方法可以将大优化问题分解为多个小优化问题求解，大大简化求解过程。某些条件下，把原始的约束问题通过拉格朗日函数转化为无约束问题，如果原始问题求解棘手，在满足K...
分类：
其他好文 时间：
2015-04-16 21:46:47
阅读次数：
133
在数学最优化问题中,拉格朗日乘数（以约瑟夫·路易斯·拉格朗日命名） 是一种寻找变量受一个或多个限制的多元方程的极值的方法。这种方法将一个有n变量与k约束的问题转换为一个更易解的n+k个变量的方程组，其变量不受任何约束。这种方法引入了一种新的标量未知数，即拉格朗日乘数：约束方程的斜率（gradient...
分类：
其他好文 时间：
2015-04-16 19:32:25
阅读次数：
236
【欧拉函数】
在数论，对正整数n，欧拉函数是少于或等于n的数中与n互质的数的数目。此函数以其首名研究者欧拉命名，它又称为Euler's
totient function、φ函数、欧拉商数等。 例如φ(8)=4，因为1,3,5,7均和8互质。
从欧拉函数引伸出来在环论方面的事实和拉格朗日定理构成了欧拉定理的证明。
【证明】：
设A, B, C是跟m, n...
分类：
其他好文 时间：
2015-04-15 21:32:59
阅读次数：
153
#include
using namespace std;
int search(const int*, int, int);
int main()
{
int arr[6] = {1,2,3,4,10,20};
int find = search(arr, 6, 10);
if(find == -1)
cout
else
cout
return 0;
...
分类：
其他好文 时间：
2015-04-09 11:53:32
阅读次数：
169
