公开课Andrew Ng 的机器学习公开课Geoffrey Hinton 的神经网络的公开课 学习和参考书 常用网址 Referencetornadomeet整理的学习资料和常用链接 ...
分类:
其他好文 时间:
2016-07-14 01:37:45
阅读次数:
114
2006 年,Hinton 等人基于受限波尔兹曼机(Re- stricted Boltzmann Machines, RBMs)提出的深度信念 网络(Deep Belief Networks, DBNs)是深度学习理论在 机器学习领域打响的第一枪,并成为了其后至今深度学 习算法的主要框架。在该算法中 ...
分类:
数据库 时间:
2016-06-22 23:22:30
阅读次数:
907
Geoffery Hinton教授的Neuron Networks for Machine Learning的第十讲介绍了如何combine模型,并进一步从实际应用的角度介绍了完全贝叶斯方法。Why it helps to combine models这一小节,我们讨论在做预测时为什么要结合许多模型。使用多个模型可以在拟合真正的规则和拟合样本错误之间做一个很好的折中。我们已经知道,当训练数据比较少时...
分类:
其他好文 时间:
2016-05-30 15:31:33
阅读次数:
181
引子 Minsky说过神经网络无法解决异或问题。60年代关于神经网络的研究还取得了一定的进展,但是都没有取得重大的突破。70年代,神经网络的研究进入了萧条期,人工智能里产生了许多不同的方向,神经网络,好像被人们所忘记。 直到1986年,David Rumelhar和Geoffery Hinton等人 ...
分类:
其他好文 时间:
2016-05-22 19:50:47
阅读次数:
196
Geoffery Hinton教授的Neuron Networks for Machine Learning的第八讲为可选部分,好像很难,这里就先跳过了,以后有用的时候再回来补。第九讲介绍了避免过拟合,提高模型的泛化能力。...
分类:
其他好文 时间:
2016-05-22 12:36:36
阅读次数:
1840
Geoffery Hinton教授的Neuron Networks for Machine Learning的第六讲介绍了随机梯度下降法(SGD),并且介绍了加快学习速度的动量方法(the momentum method)、针对网络中每一个连接的自适应学习步长(adaptive learning rates for each connection)和RMSProp算法。这几个算法的难度很大,需要反复...
分类:
其他好文 时间:
2016-05-18 18:35:59
阅读次数:
373
Yoshua Bengio最新演讲:Attention 让深度学习取得巨大成功(46ppt) Yoshua Bengio,电脑科学家,毕业于麦吉尔大学,在MIT和AT&T贝尔实验室做过博士后研究员,自1993年之后就在蒙特利尔大学任教,与 Yann LeCun、 Geoffrey Hinton并称为 ...
分类:
其他好文 时间:
2016-05-17 11:12:26
阅读次数:
279
Geoffery Hinton教授的Neuron Networks for Machine Learning的第五讲主要介绍物体识别问题的难点及克服这些难点的方法,重点介绍了数字识别和物体识别中使用的卷积网络。Why object recognition is difficult我们知道识别真实场景中的物体是很困难的,这一小节我们来介绍造成这些困难的一些东西。
Segmentation: 在一个图像...
分类:
其他好文 时间:
2016-05-15 00:40:11
阅读次数:
180
以下内容翻译自A fast learning algorithm for deep belief nets
by Geoffrey E. Hinton
and Simon Osindero
1 Introduction
学习一个有多个隐藏层的密集的连接的(densely-connected)有向信念网络是非常困难的,因为给定了一个向量,我们很难推断出隐藏活动(h...
分类:
数据库 时间:
2016-05-13 02:04:30
阅读次数:
2019
Geoffery Hinton教授的Neuron Networks for Machine Learning的第四讲主要介绍如何使用back propagation算法来学习到词汇的特征表示。Learning to predict the next word接下来的几小节主要介绍如何使用back propagation算法来学习到词汇的特征表示。我们从一个很简单的例子开始,介绍使用back prop...
分类:
其他好文 时间:
2016-05-13 00:13:01
阅读次数:
181