序列标注(sequence labelling),输入序列每一帧预测一个类别。OCR(Optical Character Recognition 光学字符识别)。 MIT口语系统研究组Rob Kassel收集,斯坦福大学人工智能实验室Ben Taskar预处理OCR数据集(http://ai.sta ...
分类:
其他好文 时间:
2017-06-05 10:10:38
阅读次数:
222
自然语言处理 (NLP)问题都是序列化的。前馈神经网络,在单次前馈中对到来数据处理,假定所有输入独立,模式丢失。循环神经网络(recurrent neural network,RNN)对时间显式建模神经网络。RNN神经元可接收其他神经元加权输入。RNN神经元可与更高层建立连接,也可与更低层建立连接。 ...
分类:
编程语言 时间:
2017-05-31 10:21:18
阅读次数:
231
毕业后就从事了现在这份工作,算一算已经10多年了。日常工作内容包括软件开发、系统维护、网络搭建、软件平台应用等,算是专业对口,平时空闲时间也比较多。人已近中年,却还有一颗躁动不安的心,始终想在技术上再进一步。接触Machine Learning 已经有一段时间了, 对KNN、RNN、LSTM等流行算 ...
分类:
其他好文 时间:
2017-05-25 00:04:48
阅读次数:
306
https://medium.com/towards-data-science/lstm-by-example-using-tensorflow-feb0c1968537 在深度学习中,循环神经网络(RNN)是一系列善于从序列数据中学习的神经网络。由于对长期依赖问题的鲁棒性,长短期记忆(LSTM)是 ...
分类:
其他好文 时间:
2017-05-22 13:32:02
阅读次数:
272
从图上可以看出来,decode的过程其实都是从encode的最后一个隐层开始的,如果encode输入过长的话,会丢失很多信息,所以设计了attation机制。 attation机制的decode的过程和原来的最大的区别就是,它输出的不只是基于本时刻的h,而是基于本时刻的h和C的concat矩阵。 那 ...
分类:
其他好文 时间:
2017-05-21 14:41:16
阅读次数:
234
原文地址:http://blog.csdn.net/malefactor/article/details/50436735/ 大纲如下: 1.RNN 2.LSTM 3.GRN 4.Attention Model 5.应用 6.探讨与思考 ...
分类:
编程语言 时间:
2017-05-18 16:58:03
阅读次数:
248
初次接触时空大数据,介绍以R-tree索引为基础的NN查询,RNN查询,以及Skyline点查询 ...
分类:
其他好文 时间:
2017-05-14 01:15:57
阅读次数:
386
一、状态和模型 在CNN网络中的训练样本的数据为IID数据(独立同分布数据),所解决的问题也是分类问题或者回归问题或者是特征表达问题。但更多的数据是不满足IID的,如语言翻译,自动文本生成。它们是一个序列问题,包括时间序列和空间序列。这时就要用到RNN网络,RNN的结构图如下所示: 序列样本一般分为 ...
分类:
其他好文 时间:
2017-05-12 20:11:06
阅读次数:
2398
布吉岛这篇文章肿么写更合适,项目经理居然要俺去设计一个swift 简介 学习版本,简直头痛的要哭!!!! 不过,人生总有很多个第一次,这个第一次,就是第一次使用keynote,实在不容易,瞬间感觉 win ppt 的强大! 稀稀拉拉,用三天时间做了简单的keynote,好几次 感觉身体被掏空………… ...
分类:
编程语言 时间:
2017-05-12 17:30:41
阅读次数:
196