这个项目主要涉及到两个网络，其中卷积神经网络用来提取图片表达的情绪，提取出一个二维向量。 网络结构如图： 词向量采用预训练的glove模型，d=50，其他信息包括了图片的“空旷程度”、亮度、对比度等信息，用来更好地描述图片特征。 对于图中的卷积神经网络，需要讲解的地方是：卷积核是一个一维卷积核，每一 ...
分类：
编程语言 时间：
2017-07-10 20:46:06
阅读次数：
242
我们尝试基于CBOW模型，将知识库中抽取的知识融合共同训练，提出LRWE模型。模型的结构图如下：下面详细介绍该模型的思想和求解方法。1.LWE模型在Word2vec的CBOW模型中，通过上下文的词预测目标词，目标是让目标词在其给定上下文出现的概率最大，所以词向量训练的结果是与其上下..
分类：
其他好文 时间：
2017-07-05 11:36:47
阅读次数：
189
上一节，我们介绍利用文本和知识库融合训练词向量的方法，如何更好的融合这些结构化知识呢？使得训练得到的词向量更具有泛化能力，能有效识别同义词反义词，又能学习到上下文信息还有不同级别的语义信息。 基于上述目标，我们尝试基于CBOW模型，将知识库中抽取的知识融合共同训练，提出LRWE模型。模型的结构图如下 ...
分类：
其他好文 时间：
2017-07-04 20:13:31
阅读次数：
1543
数据收集以后，我们下面接着要干的事情是如何将文本转换为神经网络能够识别的东西。 词向量 作为自然语言，只有被数学化才能够被计算机认识和计算。数学化的方法有很多，最简单的方法是为每个词分配一个编号，这种方法已经有多种应用，但是依然存在一个缺点：不能表示词与词的关系。 词向量是这样的一种向量[2.1, ... ...
分类：
其他好文 时间：
2017-06-09 23:43:15
阅读次数：
236
目前智能QA系统都是基于seq2seq模型来开发（如google），seq2seq模型基于one-hot的词嵌入，每个词用一个数字代替不足以表示词与词之间的关系，word2vec通过多维向量来做词嵌入，能够表示出词之间的关系，比如：男-女≈王子-公主。基于seq2seq的思想，利用多维词向量来实现模... ...
分类：
其他好文 时间：
2017-06-09 23:35:54
阅读次数：
1165
数据收集以后，我们下面接着要干的事情是如何将文本转换为神经网络能够识别的东西。 词向量 作为自然语言，只有被数学化才能够被计算机认识和计算。数学化的方法有很多，最简单的方法是为每个词分配一个编号，这种方法已经有多种应用，但是依然存在一个缺点：不能表示词与词的关系。 词向量是这样的一种向量[2.1, ...
分类：
其他好文 时间：
2017-06-08 01:23:18
阅读次数：
267
序列分类，预测整个输入序列的类别标签。情绪分析，预测用户撰写文字话题态度。预测选举结果或产品、电影评分。 国际电影数据库(International Movie Database)影评数据集。目标值二元，正面或负面。语言大量否定、反语、模糊，不能只看单词是否出现。构建词向量循环网络，逐个单词查看每条 ...
分类：
数据库 时间：
2017-06-04 10:46:37
阅读次数：
298
Mmseg中文分词算法解析 @author linjiexing 开发中文搜索和中文词库语义自己主动识别的时候，我採用都是基于mmseg中文分词算法开发的Jcseg开源project。使用场景涉及搜索索引创建时的中文分词、新词发现的中文分词、语义词向量空间构建过程的中文分词和文章特征向量提取前的中文 ...
分类：
编程语言 时间：
2017-05-16 11:00:05
阅读次数：
180
Model： 1、预处理 ，使用word2Vec 进行词向量转换 -> K维的词向量: ,所以一个句子就是 2、当过滤窗口设为h时，移动窗口设为1时，特征的卷积可变为之后特征便会缩减为 3、她的下一层设为softmax layer 作为分类标签的概率分布 4、特色在于设置了两种词向量，一种是在训练中 ...
分类：
其他好文 时间：
2017-05-09 21:40:24
阅读次数：
206
关键词： 词向量、文档向量、文档表示 地址：https://openreview.net/forum?id=B1Igu2ogg¬eId=B1Igu2ogg 首先，论文解决的是Word2Vec，Paragraph Vectors一样的，文档表示形式的问题。如何来表示一个文档，从而进行相关的文档分 ...
分类：
其他好文 时间：
2017-04-05 17:27:06
阅读次数：
195
