在那很久很久以前,可爱的小夕写了一篇将逻辑回归小题大做的文章,然后在另一篇文章中阐述了逻辑回归的本质,并且推广出了softmax函数。从那之后,小夕又在一篇文章中阐述了逻辑回归与朴素贝叶斯的恩仇录,这两大祖先级人物将机器学习的国度划分为两大板块——生成式与判别式。后来,朴素贝叶斯为了将自己的国度发扬光大,进化出了贝叶斯网以抗衡逻辑回归,一雪前耻。然而,傲娇的逻辑回归怎能就此善罢甘休呢?ps:对上面
分类:
其他好文 时间:
2020-12-29 11:51:06
阅读次数:
0
在上一篇文章中,小夕讲述了逻辑回归为了抗衡贝叶斯网,也开始了自己的进化。然而令我们没有想到的是,逻辑回归最终竟然进化成了一个生成式模型——受限玻尔兹曼机(RBM),也就是变成了敌方(生成式模型)的武器。意外得到RBM的朴素贝叶斯万分惊喜,并且燃起了将它自己做的贝叶斯网与敌方送的RBM融合的冲动!那么朴素贝叶斯的疯狂想法能不能实现呢?还是按照惯例,先叙述背景姿势。在《朴素贝叶斯到贝叶斯网》中,小夕为
分类:
其他好文 时间:
2020-12-29 11:50:30
阅读次数:
0
开篇高能预警!本文前置知识:1、理解特征函数/能量函数、配分函数的概念及其无向图表示,见《逻辑回归到受限玻尔兹曼机》和《解开玻尔兹曼机的封印》;2、理解特征函数形式的逻辑回归模型,见《逻辑回归到最大熵模型》。从逻辑回归出发,我们已经经过了朴素贝叶斯、浅层神经网络、最大熵等分类模型。显然,分类模型是不考虑时间的,仅仅计算当前的一堆特征对应的类别。因此,分类模型是“点状”的模型。想一下,如果我们有一个
分类:
其他好文 时间:
2020-12-29 11:48:54
阅读次数:
0
目录 蒙特卡洛方法概述 采样方法 小结 从名字我们可以看出,MCMC由两个MC组成,即蒙特卡罗方法(Monte Carlo Simulation,简称MC)和马尔科夫链(Markov Chain ,也简称MC)。这个因为受限玻尔兹曼机(RBM)中需要应用,所以先学习下其原理。本文先讲解蒙特卡洛方法。 ...
分类:
其他好文 时间:
2020-04-19 00:37:47
阅读次数:
73
多层受限玻尔兹曼机 一旦 RBM 学到了与第一隐藏层激活值有关的输入数据的结构,那么数据就会沿着网络向下传递一层。你的第一个隐藏层就成为了新的可见层或输入层。这一层的激活值会和第二个隐藏层的权重相乘,以产生另一组的激活。 这种通过特征分组创建激活值集合序列,并对特征组进行分组的过程是特征层次结构的基 ...
分类:
其他好文 时间:
2020-03-03 19:06:35
阅读次数:
107
连续 RBM 连续 RBM 是受限玻尔兹曼机的一种形式,它通过不同类型的对比散度采样接受连续的输入(也就是比整数切割得更细的数字)。这允许 CRBM 处理图像像素或字数向量这类被归一化到 0 到 1 之间的小数的向量。 应该注意,深度学习网络的每一层都需要四个元素:输入、系数、偏置项以及变换(激活算 ...
分类:
其他好文 时间:
2020-03-03 19:00:54
阅读次数:
65
环境:python 2, 32位 https://www.cnblogs.com/tuhooo/p/5440473.html 备注:这个python代码需要用到psyco包,psyco包目前只有python2 32位版本。在windows 64+python 3环境下,如果下载psyco的源代码安装 ...
分类:
系统相关 时间:
2020-02-29 17:33:07
阅读次数:
118
DBN相关较好的网站: 受限玻尔兹曼机(restricted Boltzmann machine, RBM) https://www.jianshu.com/p/378e4c93411a 深度信念网络(Deep Belief Network) https://www.sohu.com/a/16722 ...
分类:
其他好文 时间:
2019-12-29 22:12:04
阅读次数:
94
神经网络 感知机 解决分类问题 "http://playground.tensorflow.org" 神经网络 定义: ? 在机器学习领域和认知科学领域,人工神经网络(artificial neural network) 简称ann或类神经网络,一种放生物 神经网络的结构和功能的计算模型,用于对函数 ...
分类:
其他好文 时间:
2019-10-27 16:54:45
阅读次数:
89
讲授玻尔兹曼分布、玻尔兹曼机的网络结构、实际应用、训练算法、深度玻尔兹曼机等。受限玻尔兹曼机(RBM)是一种概率型的神经网络。和其他神经网络的区别:神经网络的输出是确定的,而RBM的神经元的输出值是不确定的,以某种概率取到某一个值、以另一种概率取到另一个值,神经元的输出值。各个神经元的输入值服从某种 ...
分类:
其他好文 时间:
2019-10-24 15:14:34
阅读次数:
107