码迷,mamicode.com
首页 > 其他好文 > 详细

基于CNN的句子分类

时间:2017-05-09 21:40:24      阅读:206      评论:0      收藏:0      [点我收藏+]

标签:标签   技术   soft   ops   概率   基于   预处理   元素   分享   

Model:

1、预处理 ,使用word2Vec 进行词向量转换 -> K维的词向量:  技术分享,所以一个句子就是技术分享

2、当过滤窗口设为h时,移动窗口设为1时,特征的卷积可变为技术分享之后特征便会缩减为技术分享

3、她的下一层设为softmax layer 作为分类标签的概率分布

4、特色在于设置了两种词向量,一种是在训练中保持不变,另一种在训练中通过反向传播进行微调

Regularition:

1.在中间层对向量的权重给一个L2范式的约束

2.使用了dropout,Dropout prevents co-adaptation of hidden units by randomly dropping out—i.e., setting to zero—a proportion p of the hidden units during foward backpropagation.

3.drops使用技术分享训练,o表示元素相乘,

 

 

 

技术分享

 

 

基于CNN的句子分类

标签:标签   技术   soft   ops   概率   基于   预处理   元素   分享   

原文地址:http://www.cnblogs.com/MySimond/p/6832448.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!