ML-最大似然估计 MAP-最大后验估计 贝叶斯估计 三者的关系及区别 一。机器学习 核心思想是从past experience中学习出规则，从而对新的事物进行预测。对于监督学习来说，有用的样本数目越多，训练越准确。 用下图来表示机器学习的过程及包含的知识： 简单来说就是： 二。ML vs MAP ...
分类：
其他好文 时间：
2016-04-16 23:15:50
阅读次数：
774
主要机器学习算法的工程适用性分析前段时间AlphaGo跟李世石的大战及相关的深度学习的新闻刷了一遍又一遍的朋友圈。不过这件事情，也只是在机器学习的深度上进一步拓展，而机器学习的广度（也即工程化实践）上，仍然没有什么突破性的理论或实践，用的领域继续用，不用的领域依然不用。重要性机器学习的使命是使计算机强大的运算能力和存储能力转化为推演能力，能转化是一方面，转化的效率则是另一方面。科研性...
分类：
编程语言 时间：
2016-04-16 18:55:49
阅读次数：
207
1. 正则化概述（Regularization） 监督学习可以简单的理解为在最小化loss function 的同时，保证模型的复杂度尽可能的低，防止出现过拟合（overfitting）。常用的loss函数有square loss(Regression)，Hinge Loss(SVM)，exp-lo... ...
分类：
其他好文 时间：
2016-04-15 21:31:38
阅读次数：
275
1.RBM简介 受限玻尔兹曼机（Restricted Boltzmann Machines，RBM）最早由hinton提出，是一种无监督学习方法，即对于给定数据，找到最大程度拟合这组数据的参数，其网络结构如下： 以上的RBM的贝叶斯网络图，该网络可网络结构有 n个可视节点和m个隐藏节点 ，其中每个可 ...
分类：
Web程序 时间：
2016-04-14 19:23:01
阅读次数：
302
决策树是一种常用的监督学习方法，它根据输入的训练集各样本的特征向量和标签从上到下建立一棵树，每个非叶结点是一个特征，每个叶结点是一个标签，结点之间的边是特征的一个取值。决策的过程就像程序流经层层嵌套的if-else语句，最后进到一个不再细分的块（叶结点）里，从而预测出样本的归类。 决策树的优点是简单 ...
分类：
其他好文 时间：
2016-04-11 10:11:15
阅读次数：
103
感谢博临天下，笔记太好，我就直接搬过来再添加了。http://www.cnblogs.com/fanyabo/p/4060498.html 一、引言 本材料参考Andrew Ng大神的机器学习课程 http://cs229.stanford.edu，以及斯坦福无监督学习UFLDL tutorial ...
分类：
编程语言 时间：
2016-04-10 21:24:23
阅读次数：
499
从 coursa 上面学的是说，监督学习是指我们来教计算机如何“学习”，非监督学习是指让计算机自己学习。监督学习又有两个大的分支，一个是 regression，另一个是 classification。 既然是我们来教计算机如何学习，那就必定有一个“标准答案”。regression 是说，这个标准答案 ...
分类：
系统相关 时间：
2016-04-10 10:13:28
阅读次数：
220
self-taught learning 在特征提取方面完全是用的无监督的方法，对于有标记的数据，可以结合有监督学习来对上述方法得到的参数进行微调，从而得到一个更加准确的参数a。 在self-taught learning中，首先用 无标记数据训练一个sparse autoencoder，这样用对于 ...
分类：
Web程序 时间：
2016-04-08 11:42:44
阅读次数：
224
机器学习可分为监督学习和无监督学习。有监督学习就是有具体的分类信息，比如用来判定输入的是输入[a,b,c]中的一类；无监督学习就是不清楚最后的分类情况，也不会给目标值。 K-近邻算法属于一种监督学习分类算法，该方法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属 ...
分类：
编程语言 时间：
2016-04-05 00:30:06
阅读次数：
284
// 搜索算法 挨个尝试 1. 梯度下降 批梯度下降， 随机梯度下降 2. 矩阵求导方法 ...
分类：
其他好文 时间：
2016-04-02 22:59:50
阅读次数：
457
