在那很久很久以前，可爱的小夕写了一篇将逻辑回归小题大做的文章，然后在另一篇文章中阐述了逻辑回归的本质，并且推广出了softmax函数。从那之后，小夕又在一篇文章中阐述了逻辑回归与朴素贝叶斯的恩仇录，这两大祖先级人物将机器学习的国度划分为两大板块——生成式与判别式。后来，朴素贝叶斯为了将自己的国度发扬光大，进化出了贝叶斯网以抗衡逻辑回归，一雪前耻。然而，傲娇的逻辑回归怎能就此善罢甘休呢？ps：对上面
分类：
其他好文 时间：
2020-12-29 11:51:06
阅读次数：
0
在上一篇文章中，小夕讲述了逻辑回归为了抗衡贝叶斯网，也开始了自己的进化。然而令我们没有想到的是，逻辑回归最终竟然进化成了一个生成式模型——受限玻尔兹曼机（RBM），也就是变成了敌方（生成式模型）的武器。意外得到RBM的朴素贝叶斯万分惊喜，并且燃起了将它自己做的贝叶斯网与敌方送的RBM融合的冲动！那么朴素贝叶斯的疯狂想法能不能实现呢？还是按照惯例，先叙述背景姿势。在《朴素贝叶斯到贝叶斯网》中，小夕为
分类：
其他好文 时间：
2020-12-29 11:50:30
阅读次数：
0
开篇高能预警！本文前置知识：1、理解特征函数/能量函数、配分函数的概念及其无向图表示，见《逻辑回归到受限玻尔兹曼机》和《解开玻尔兹曼机的封印》；2、理解特征函数形式的逻辑回归模型，见《逻辑回归到最大熵模型》。从逻辑回归出发，我们已经经过了朴素贝叶斯、浅层神经网络、最大熵等分类模型。显然，分类模型是不考虑时间的，仅仅计算当前的一堆特征对应的类别。因此，分类模型是“点状”的模型。想一下，如果我们有一个
分类：
其他好文 时间：
2020-12-29 11:48:54
阅读次数：
0
目录 蒙特卡洛方法概述 采样方法 小结 从名字我们可以看出，MCMC由两个MC组成，即蒙特卡罗方法（Monte Carlo Simulation，简称MC）和马尔科夫链（Markov Chain ，也简称MC）。这个因为受限玻尔兹曼机（RBM）中需要应用，所以先学习下其原理。本文先讲解蒙特卡洛方法。 ...
分类：
其他好文 时间：
2020-04-19 00:37:47
阅读次数：
73
多层受限玻尔兹曼机 一旦 RBM 学到了与第一隐藏层激活值有关的输入数据的结构，那么数据就会沿着网络向下传递一层。你的第一个隐藏层就成为了新的可见层或输入层。这一层的激活值会和第二个隐藏层的权重相乘，以产生另一组的激活。 这种通过特征分组创建激活值集合序列，并对特征组进行分组的过程是特征层次结构的基 ...
分类：
其他好文 时间：
2020-03-03 19:06:35
阅读次数：
107
连续 RBM 连续 RBM 是受限玻尔兹曼机的一种形式，它通过不同类型的对比散度采样接受连续的输入（也就是比整数切割得更细的数字）。这允许 CRBM 处理图像像素或字数向量这类被归一化到 0 到 1 之间的小数的向量。 应该注意，深度学习网络的每一层都需要四个元素：输入、系数、偏置项以及变换（激活算 ...
分类：
其他好文 时间：
2020-03-03 19:00:54
阅读次数：
65
环境：python 2, 32位 https://www.cnblogs.com/tuhooo/p/5440473.html 备注：这个python代码需要用到psyco包，psyco包目前只有python2 32位版本。在windows 64+python 3环境下，如果下载psyco的源代码安装 ...
分类：
系统相关 时间：
2020-02-29 17:33:07
阅读次数：
118
厉害的理论物理学家都是数学家。 玻尔兹曼、吉布斯等等这些人 没有数学，物理就寸步难行 杨振宁的规范场理论，在格里菲斯都粒子物理导论里，我看过规范场的推导，全是数学。 二维Ising模型的精确解等等，都是数学 很多都是这些天才解出来的。 我虽然智商一般，但是也能做一个科学的一般研究者。也许研究第一性原 ...
分类：
其他好文 时间：
2020-02-26 19:02:01
阅读次数：
65
DBN相关较好的网站： 受限玻尔兹曼机(restricted Boltzmann machine, RBM) https://www.jianshu.com/p/378e4c93411a 深度信念网络(Deep Belief Network) https://www.sohu.com/a/16722 ...
分类：
其他好文 时间：
2019-12-29 22:12:04
阅读次数：
94
http://zhishifenzi.blog.caixin.com/archives/175840 谁家学霸两百年：从布尔代数到人工智能 2018年02月20日 07:09 分类：未分类 阅读：1026 评论：0 撰文 | 黄铁军（北京大学信息科学技术学院教授，计算机科学技术系系主任） 责编 | ...
分类：
其他好文 时间：
2019-11-15 22:42:31
阅读次数：
140
