1.在高纬度大数量的数据情况下,用线性+松弛因子做SVM效果是很不错的
2.在高纬度大数量的情况下,一般用批量梯度下降做计算效果会很好
3.在低纬度大数量的情况下,可以用牛顿法来求解,一般迭代两三次就好了
4.有个叫Le BOTTON 的人,对常用目标函数的SGD公式做了很好的推导
5.有一个响亮求导的书叫:vector cookbook,专门介绍矩阵求导~
6.其实SVM的结果不用转为概率,直接转为Rank就可以了
7.大扣扣的演算手稿在手机里面~
原文地址:http://www.cnblogs.com/berkeleysong/p/3763665.html