最近深度学习两巨头 Bengio 和 LeCun 在 ICLR 2020 上点名 Self-Supervised Learning（SSL，自监督学习） 是 AI 的未来，而其的代表的 Framework 便是 Contrastive Learning（CL，对比学习）。 另一巨头 Hinton 和 ...
分类：
其他好文 时间：
2021-06-02 20:26:20
阅读次数：
0
由 Hinton 提出的标准自动编码机（标准自编码器）只有一个隐藏层，隐藏层中神经元的数量少于输入（和输出）层中神经元的数量，这会压缩网络中的信息，因此可以将隐藏层看作是一个压缩层，限定保留的信息。 自动编码机的学习包括在隐藏层上对输入信号进行压缩表示，然后在输出层尽可能地复现原始输入： 图 1 单 ...
分类：
其他好文 时间：
2021-02-17 14:17:10
阅读次数：
0
感谢大家一直对公众号的支持和陪伴，本次公众号联合博文视点给大家送一本深度学习的实践书籍，希望大家能够收获多多，新的一年，成长进步！书籍简介深度学习之美：AI时代的数据处理与最佳实践零入门|高可读|重实战|抓前沿准受用的深度学习入门教程，集各项前沿技术之大成含Hinton神经胶囊网络的详细解读扫码直接下单深度学习：基于Keras的Python实践以实践为导向，使用Keras作为编程框架强调简单、快速
分类：
其他好文 时间：
2020-11-27 10:49:59
阅读次数：
4
一、简介 Batch Normalization作为最近一年来DL的重要研究成果，已经广泛被证明其有效性和重要性。虽然有些细节处还解释不清其理论原因，但是实践证明好用才是真的好，别忘了DL从Hinton对深层网络做Pre_Train开始就是一个经验领先于理论分析的偏经验的一门学问。带着导读《Batc ...
分类：
其他好文 时间：
2020-04-16 15:19:25
阅读次数：
76
[toc] 一、深度信念网络（DBN） 2006年，“神经网络之父”Geoffrey Hinton祭出神器深度信念网络，一举解决了深层神经网络的训练问题，推动了深度学习的快速发展。 深度信念网络（Deep Belief Nets），是一种概率生成模型，能够建立输入数据和输出类别的联合概率分布。 深度 ...
分类：
其他好文 时间：
2020-04-13 00:41:46
阅读次数：
98
谷歌（Google）学术镜像，谷歌镜像 2019-09-03 15:32:26 Hinton-wu 阅读数 6743 文章标签： 谷歌google学术镜像 更多 分类专栏： 其他 谷歌（Google）学术镜像，谷歌镜像 2019-09-03 15:32:26 Hinton-wu 阅读数 6743 文 ...
分类：
其他好文 时间：
2019-10-23 09:48:14
阅读次数：
1366
minimize.m:共轭梯度法更新BP算法权值 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ Carl Edward Rasmussen在高斯机器学习的MATLAB代码中写到一个优化类的函数：minimize.m，同时，Geoff Hinton在用 ...
分类：
编程语言 时间：
2019-09-26 21:18:16
阅读次数：
130
在word2vec出现之前，自然语言处理经常把字词转为one-hot编码类型的词向量，这种方式虽然非常简单易懂，但是数据稀疏性非常高，维度很多，很容易造成维度灾难，尤其是在深度学习中；其次这种词向量中任意两个词之间都是孤立的，存在语义鸿沟（这样就不能体现词与词之间的关系）而有Hinton大神提出的D ...
分类：
其他好文 时间：
2019-09-16 09:45:20
阅读次数：
167
本文章译自OptaPlanner官网上，Geoffrey De Smet先生的博文，链接如下： https://www.optaplanner.org/blog/2015/06/03/HowGoodAreHumanPlanners.html?www.optaplanner.org 在规划方面，我们人 ...
分类：
其他好文 时间：
2019-08-27 23:01:21
阅读次数：
116
经常会被问到你用深度学习训练模型时怎么样改善你的结果呢？然后每次都懵逼了，一是自己懂的不多，二是实验的不多，三是记性不行忘记了。所以写这篇博客，记录下别人以及自己的一些经验。 Ilya Sutskever（Hinton的学生）讲述了有关深度学习的见解及实用建议： 获取数据：确保要有高质量的输入/输出 ...
分类：
其他好文 时间：
2019-08-22 12:53:27
阅读次数：
65
