词向量: 将词语"嵌入"到一个N维空间，使得词语相近的词语放到相近的位置。 机器翻译类不类似于矩阵的变换？ 谷歌出品的一个工具Word2Vec，用于入门。 句向量？段向量？文档向量? 很多事情向量化，可以解决很多问题。 传统的one-hot 编码的原来是，有多少个字就有多少个维度. 科[1,0,0, ...
分类：
编程语言 时间：
2017-04-02 14:30:29
阅读次数：
173
1.从文本中构建词向量 将每个文本用python分割成单词，构建成词向量，这里首先需要一个语料库，为了简化我们直接从所给文本中抽出所有出现的单词构成一个词库。 2.利用词向量计算概率p(x|y) When we attempt to classify a document, we multiply ...
分类：
其他好文 时间：
2017-03-28 20:46:16
阅读次数：
287
Distributed Representation 这种表示，它最早是 Hinton 于 1986 年提出的，可以克服 one-hot representation 的缺点。 其基本想法是： 通过训练将某种语言中的每一个词映射成一个固定长度的短向量（当然这里的“短”是相对于 one-hot rep ...
分类：
其他好文 时间：
2017-03-27 15:31:08
阅读次数：
278
背景：当读取一个key value数据的时候，python的字典结构会造成内存使用扩10倍左右，无可容忍。此文解决这个问题 数据：word2vec训练的结果，word对应400维的词向量。词表共1.6G左右 解决方案：利用python的class array进行解决。 步骤：1、将原始数据，转化成k ...
分类：
编程语言 时间：
2016-12-15 14:28:01
阅读次数：
259
1、贝叶斯分类算法（从文本中构建词向量） 检查上述词表，就会发现这里不会出现重复的单词。目前该词表还没有排序，需要的话，稍后可以对其排序。 下面看一下函数setOfWords2Vec()的运行效果 该函数使用词汇表或者想要检查的所有单词作为输入，然后为其中的每一个单词构建一个特征。 一旦给定一篇文档 ...
分类：
编程语言 时间：
2016-11-22 23:43:21
阅读次数：
300
R语言由于效率问题，实现自然语言处理的分析会受到一定的影响，如何提高效率以及提升词向量的精度是在当前软件环境下，比较需要解决的问题。
笔者认为还存在的问题有：
1、如何在R语言环境下，大规模语料提高运...
分类：
编程语言 时间：
2016-11-18 16:09:22
阅读次数：
3040
词向量的表示主流的有两种方式，一种当然是耳熟能详的google的word2vec，还有一类就是GloVe。那么前面一类有三个开源的包，后面这一类我倒是看到得不多，恰好是在我关注了许久的一个包里面有，它...
分类：
其他好文 时间：
2016-11-17 20:45:26
阅读次数：
1329
（1）词向量模型（vector space model），它将文档中的词项映射到$n$维线性空间。 （2） 词项频率-逆文档频率（term frequncy-inverse document frequency）模型，简称TF-IDF。这种模型的本质是：文档中出现频繁（TF），但在整个文档集中出现相 ...
分类：
其他好文 时间：
2016-10-12 11:20:19
阅读次数：
123
欢迎fork我的github：https://github.com/zhaoyu611/DeepLearningTutorialForChinese最近在学习Git，所以正好趁这个机会，把学习到的知识...
分类：
其他好文 时间：
2016-09-18 21:15:54
阅读次数：
318
一、Java语言的特点（养成经常查看Java在线帮助文档的习惯） （1）简单性：Java语言是在C和C++计算机语言的基础上进行简化和改进的一种新型计算机语言。它去掉了C和C++最难正确应用的指针和最难理解的多重继承技术等内容，通过垃圾回收机制简化了程序内存管理，统一了各种数据类型在不同操作系统平台 ...
分类：
编程语言 时间：
2016-09-04 15:59:45
阅读次数：
233
