什么是TCN TCN全称Temporal Convolutional Network，时序卷积网络，是在2018年提出的一个卷积模型，但是可以用来处理时间序列。 卷积如何处理时间序列 时间序列预测，最容易想到的就是那个马尔可夫模型： $$P(y_k|x_k,x_{k 1},...,x_1)$$ 就是 ...
分类：
编程语言 时间：
2020-05-20 20:20:26
阅读次数：
82
1.概述 利用语言模型来获得一个上下文相关的预训练表示，称为ELMo。它使用的是一个双向的LSTM语言模型，由一个前向和一个后向语言模型构成，目标函数就是取这两个方向语言模型的最大似然。 2.模型结构 3.双向语言模型 前向概率计算： 后向概率计算： t代表token，即词 最后将前向和后向合并 最 ...
分类：
其他好文 时间：
2020-05-18 09:30:05
阅读次数：
114
1.1为什么选择序列模型 （1）序列模型广泛应用于语音识别，音乐生成，情感分析，DNA序列分析，机器翻译，视频行为识别，命名实体识别等众多领域。 （2）上面那些问题可以看成使用（x，y）作为训练集的监督学习，但是输入与输出的对应关系有非常多的组合，比如一对一，多对多，一对多，多对一，多对多（个数不同 ...
分类：
其他好文 时间：
2020-05-17 10:33:22
阅读次数：
124
1. LSTM原理 由我们所了解的RNN可知，RNN结构之所以出现梯度爆炸或者梯度消失，最本质的原因是因为梯度在传递过程中存在极大数量的连乘，为此有人提出了LSTM模型，它可以对有价值的信息进行记忆，放弃冗余记忆，从而减小学习难度。 与RNN相比，LSTM的神经元还是基于输入X和上一级的隐藏层输出h ...
分类：
其他好文 时间：
2020-05-15 11:54:47
阅读次数：
163
1 !pip install tushare 2 import tushare as ts 3 import numpy as np 4 import tensorflow as tf 5 from tensorflow.keras.layers import Dropout, Dense, LST ...
分类：
其他好文 时间：
2020-05-13 23:15:12
阅读次数：
106
Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting 2020-05-09 15:59:40 Paper: nips-2015 Code: 1. https://github.com/ ...
分类：
移动开发 时间：
2020-05-09 17:20:31
阅读次数：
75
我的执行力真的挺差的，很多事都喜欢拖到最后再做 今早得在10：00前完成声纹LSTM，之后得编写信息安全竞赛的东西，至于陈娟导师的信息.....下午一定得开始搞.. 每天一段话 今日话题：历史 要求：6句话左右，意思层层递进 历史可以予我们经验，减少犯错几率。古人云，以史为鉴，可以知兴替，很多事情， ...
分类：
其他好文 时间：
2020-05-08 09:17:53
阅读次数：
57
在2017年之前，语言模型都是通过RNN，LSTM来建模，这样虽然可以学习上下文之间的关系，但是无法并行化，给模型的训练和推理带来了困难，因此有人提出了一种完全基于attention来对语言建模的模型，叫做transformer。transformer摆脱了NLP任务对于RNN，LSTM的依赖，使用 ...
分类：
其他好文 时间：
2020-05-06 19:36:59
阅读次数：
53
lstm网络进行股票预测 pytorch 1. generate_dataset.py 2. neural_network_modeling.py 3. train.py 4. predict.py 参考文献 "[1] pytorch上手模板" "[2] pytorch中LSTM的细节分析理解" " ...
分类：
其他好文 时间：
2020-05-05 19:46:24
阅读次数：
53
常常会碰到各种各样时间序列预测问题，如商场人流量的预测、商品价格的预测、股价的预测，等等。TensorFlow新引入了一个TensorFlow Time Series库（以下简称为TFTS），它可以帮助在TensorFlow中快速搭建高性能的时间序列预测系统，并提供包括AR、LSTM在内的多个模型。 ...
分类：
其他好文 时间：
2020-05-03 23:08:54
阅读次数：
136
