在机器学习中,模型的训练是一个很重要的过程,它通常是对一个目标函数进行优化,从而获取模型的参数,比较常见的优化算法包括梯度下降法、牛顿法与拟牛顿法等。但在大数据的背景下,尤其对于并行实现来说,优化算法通常是越简单越好,如坐标下降法(CD)和随机梯度下降法(SCG)就比较受欢迎。本文是阅读完论文 Distributed Coordinate Descent Method for Learning with Big Data 的一则笔记,主要介绍算法 Hydra (一种分布式坐标下降法)的算法框架、收敛性理论、...
分类:
其他好文 时间:
2014-06-29 07:38:26
阅读次数:
350
1.类定义
在ml.hpp中有以下类定义:
[cpp] view
plaincopyprint?
class CV_EXPORTS_W CvNormalBayesClassifier : public CvStatModel
{
public:
CV_WRAP CvNormalBayesClassifier();...
分类:
其他好文 时间:
2014-06-20 12:56:27
阅读次数:
202
转载:http://jianshu.io/p/987f13d0215a主题阅读+批判性思考+Learning-by-Doing,三大利器,可以解决这个问题!分析性阅读莫提默艾德勒先生在《如何阅读一本书》中提出,针对特定主题所进行的分析型阅读,是阅读的最高层次。具体方法是:搜集所有与特定主题相关的材料...
分类:
其他好文 时间:
2014-06-11 13:02:44
阅读次数:
245
场景: 创建一个Virtual Switch,支持VLAN,支持MAC-Learning
包含下面四个Port: P1, truck port P2, VLAN 20 P3, P4 VLAN 30 包含五个flow table: Table 0:
Admission control. Table 1...
分类:
其他好文 时间:
2014-06-09 22:30:54
阅读次数:
490
这部分开始,我们将讨论 learning 相关的内容。PGM 为 frequentist 与
Bayesian 系的 model 提供了同一种语言,对前者来说 learning
就是确定一种对“未知但是却是常值”的参数的估计,使得某种“准则”得到满足;对后者来说参数不存在“估计”问题,参数由于成为了...
分类:
其他好文 时间:
2014-06-08 23:27:22
阅读次数:
293
作为 inference 部分的小结,我们这里对 machine learning 里面常见的三个
model 的 inference 问题进行整理,当然很幸运的是他们都存在 tractable 的算法是的我们避免了烦人的 approximate
inference。HMM常意所说的 HMM 是对离...
分类:
其他好文 时间:
2014-06-08 23:26:19
阅读次数:
386
有个比较有意思的想法是编码理论的反问题是 machine
learning,这也是这部分学习的一个收获。这个其实很奇怪,编码理论其实是有 ground truth
的,然后通过编码产生“冗余”,这样才能通过含有噪声的信道后仍然能够被正确的解码(比较好的是相关的理论上界和最优编码已经非常接近了),这个...
分类:
其他好文 时间:
2014-06-08 23:12:57
阅读次数:
257
最近几年,realtime的人脸动画开始风声水起,不少图形图像的研究者开始在这个领域不断的在顶级会议siggraph和期刊tog上面发文章。
随着kinect等廉价的三维数据采集设备的运用,以及其功能强大的人脸识别和动作识别的功能,极大的推动了人脸数据驱动电脑中3D模型
的表情表演和动作表演的可能。
下面是几个大牛的主页,其中有不少关于这方面的研究:
主要发起者:
li hao 在epf...
分类:
其他好文 时间:
2014-06-08 15:46:44
阅读次数:
312
Deep
Learning(深度学习):ufldl的2个教程(这个没得说,入门绝对的好教程,Ng的,逻辑清晰有练习):一ufldl的2个教程(这个没得说,入门绝对的好教程,Ng的,逻辑清晰有练习):二Bengio团队的deep
learning教程,用的theano库,主要是rbm系列,搞pytho...
分类:
其他好文 时间:
2014-06-07 20:05:57
阅读次数:
849
最近一段时间做了不少文本挖掘的项目和研究,正好总结一下文本挖掘预处理的流程,希望是干货。...
分类:
其他好文 时间:
2014-06-07 12:11:52
阅读次数:
238