早早爬起来赶到北大光华听百度分会场的报告,把听到的简要记述一下。李鹏 自然语言理解中的深度学习首先梳理自然语言理解这个问题,提出基本问题是:
Tagging:例如命名实体识别
Generation:翻译,问答->多轮对话
然后是具体的例子:
Tagging问题的例子:语义角色标注
解决Who do what at where…等等句子逻辑成分划分的问题
分词...
分类:
编程语言 时间:
2015-06-07 14:37:30
阅读次数:
464
week8:5.271.做CNN practical[1]里的example1,了解CNN模块中的每一个部分(1)卷积层的卷积过程,输入输出维度变化(2)ReLU(3)Pooling层(4)NormalizationReLUPoolingNormalization2.做CNN practical[1...
分类:
其他好文 时间:
2015-05-31 16:43:21
阅读次数:
165
这一部分介绍了卷积神经网络的概念和技巧,并且用Lasagne实际训练了一个卷积神经网络。在这基础上,分析模型的学习曲线,提出了用数据扩充方法来提高模型学习效果。然后介绍了在当前问题上应用数据扩充的具体操作。再次训练网络,分析了普通卷积神经网络使用了数据扩充技巧之后的训练效果。...
分类:
Web程序 时间:
2015-05-31 00:05:56
阅读次数:
163
这个exercise需要完成cnn中的forward pass,cost,error和gradient的计算。需要弄清楚每一层的以上四个步骤的原理,并且要充分利用matlab的矩阵运算。大概把过程总结了一下如下图所示:STEP 1:Implement CNN ObjectiveSTEP 1a: Fo...
分类:
Web程序 时间:
2015-05-30 12:03:11
阅读次数:
220
Kaggle Facial Point Detect 教程翻译第二部分:一个传统的三层神经网络用Lasagne工具定义和训练,并得到拟合结果。...
分类:
Web程序 时间:
2015-05-29 21:48:04
阅读次数:
313
Deep learning:三十八(Stacked CNN简单介绍)前言: 本节主要是来简单介绍下stacked CNN(深度卷积网络),起源于本人在构建SAE网络时的一点困惑:见Deep learning:三十六(关于构建深度卷积SAE网络的一点困惑)。因为有时候针对大图片进行recogniti....
分类:
移动开发 时间:
2015-05-28 19:57:07
阅读次数:
568
http://hi.baidu.com/chb_seaok/item/6307c0d0363170e73cc2cb65个人阅读的Deep Learning方向的paper整理,分了几部分吧,但有些部分是有交叉或者内容重叠,也不必纠结于这属于DNN还是CNN之类,个人只是大致分了个类。目前只整理了部分...
分类:
其他好文 时间:
2015-05-28 19:42:37
阅读次数:
291
Kaggle 比赛: Facial Point Detect(面部关键点检测)的卷积神经网络教程翻译,用Python Lasagne 工具进行卷积神经网络的搭建和训练。本文为第一部分,讲环境搭建和数据读取。...
分类:
Web程序 时间:
2015-05-28 00:49:04
阅读次数:
431
神经网络的挑战和关键技术:1.神经网络结构决定(层,神经元,连接) 加入特定领域的知识(CNN 图片处理)2.模型复杂度高 大的数据量; regularization: dropout;denoising3.最优化困难 好的初始化以避免局部最优:pre-training4.计算复杂度高 好的硬件方....
分类:
Web程序 时间:
2015-05-13 21:11:23
阅读次数:
291