从感知机到神经网络 感知机 感知器在20世纪五、六十年代由科学技术Frank Rosenblatt发明,其受到Warren McCulloch和Walter Pitts早期的工作的影响。今天,使用其他人工神经元模型更为普遍———在这本书中,以及更多现代的神经网络工作中,主要使用的是一种叫做S型神经元... ...
分类:
其他好文 时间:
2018-10-26 22:16:25
阅读次数:
276
感知机 感知机是一类人造神经元,在许多神经网络中,主要的神经元模型是sigmoid神经元。我们将很快的了解什么是sigmoid神经元,但是想要知道为什么sigmoid要这么定义,就需要我们花点时间去了解感知机。 感知机如何工作?一个感知机通过一些二进制的输入x1,x2,...,然后产生一个二进制的输 ...
分类:
其他好文 时间:
2018-10-13 10:26:26
阅读次数:
728
从基于规则到基于统计的语言模型的转变 基于马尔科夫假设,即任意一个词出现的概率只与它前面的词有关,可得到一个二元模型。乃至基于一个N-1阶马尔科夫假设,对应的语言模型是N元模型。一般N取值非常小,通常为2,可取到3或者4。 对于样本中未出现的零概率问题,使用古德-图灵估计方法进行平滑处理。对于出现频 ...
分类:
编程语言 时间:
2018-09-04 10:37:27
阅读次数:
177
1.第一次试验:朴素贝叶斯,采用统计词数量方式处理数据conutVectorizer() (1)训练集12695条, 正向:8274 负向:4221 哈工大停词表:df=3,正确率0.899, df=1,正确率0.9015 四川大学停词表:df=1,正确率0.90035 (2)训练集19106条 正 ...
分类:
编程语言 时间:
2018-08-19 13:56:44
阅读次数:
140
损失函数 神经元模型:用数学公式表示为:,f为激活函数。 神经网络:是以神经元为基本单元构成的。 激活函数:引入非线性激活因素,提高模型的表达力。 常用的激活函数有relu、sigmoid、tanh等。 ① 激活函数relu: 在Tensorflow中,用tf.nn.relu()表示 relu()数 ...
分类:
其他好文 时间:
2018-07-22 20:47:48
阅读次数:
161
一、神经网络基础 1. 神经元模型 神经网络中最基本的单元是神经元模型(neuron)。 细胞体分为两部分,前一部分计算总输入值(即输入信号的加权和,或者说累积电平),后一部分先计算总输入值与该神经元阈值的差值,然后通过激活函数(activation function)的处理,产生输出从轴突传送给其 ...
分类:
其他好文 时间:
2018-07-21 21:28:37
阅读次数:
692
神经元模型 常用的激活函数(激励函数): 神经网络(NN)复杂度:多用神经网络层数和神经网络参数个数来表示 层数 = 隐藏层层数+1个输出层 参数个数 = 总W(权重) + 总B(偏置) 比如 损失函数(loss):预测值y 和已知答案y_ 的差距 神经网络优化目标:使损失函数loss 达到最小 常 ...
分类:
其他好文 时间:
2018-05-12 23:07:38
阅读次数:
234
Unified Modeling Language (UML)又称统一建模语言或标准建模语言 一、UML作用 1.能够从不同的角度来看待系统的结构,行为,功能(需求)。 2.能够在不同抽象程度上考虑系统,而仅仅是源代码是不够的。源代码是非常细化的内部结构,不能用来建造复杂的系统。 二、UML定义 U ...
分类:
编程语言 时间:
2018-05-05 14:47:56
阅读次数:
220
1.只能处理同质任务(任务难度不同) 仍只刻画了工人质量,没有刻画任务难度。 D.S. 原文 工人的质量是有一个隐混淆矩阵确定的,此矩阵定义了在确定了正确的标记的条件下工人回复任一可能标记的概率。 工人 k 在 j 为正确标记下回复 l 的概率。 D-S 模型 (一元模型),工人有(多个)质量参数 ...
分类:
其他好文 时间:
2018-05-01 20:25:01
阅读次数:
150
文字、数字、语言 、信息 数字、文字和自然语言一样,都是信息的载体,他们的产生都是为了 记录和传播信息 。 但是貌似数学与语言学的关系不大,在很长一段时间内,数学主要用于天文学、力学。 本章,我们将回顾一下信息时代的发展,看语言学如何慢慢与数学联系起来的。 信息 最开始的时候,人类会用 声音 来传播 ...
分类:
编程语言 时间:
2018-04-07 20:00:04
阅读次数:
376