CVPR2020:训练多视图三维点云配准 Learning Multiview 3D Point Cloud Registration 源代码和预训练模型:https://github.com/zgojcic/3D_multiview_reg 论文地址: https://openaccess.the ...
分类:
其他好文 时间:
2020-06-29 09:31:56
阅读次数:
235
随着预训练技术的到来,作为深度学习重要应用领域之一,自然语言处理也迎来了新的春天。通过使用预训练模型可以大大减少模型训练对数据的依赖,仅需要使用少量数据在下游任务中微调(Fine-tune),就可以获得效果非常优秀的模型。不过如果希望获得更好的效果,该怎么办呢?有人也许会说:多训练几个epoch嘛! ...
分类:
其他好文 时间:
2020-06-26 18:01:07
阅读次数:
79
import torch.nn as nnimport torchvision.models as modelsclass resnet(nn.Module): def __init__(self): super(resnet,self).__init__() self.model = models ...
分类:
其他好文 时间:
2020-06-21 00:29:09
阅读次数:
96
随着预训练技术的到来,作为深度学习重要应用领域之一,自然语言处理也迎来了新的春天。通过使用预训练模型可以大大减少模型训练对数据的依赖,仅需要使用少量数据在下游任务中微调(Fine-tune),就可以获得效果非常优秀的模型。不过如果希望获得更好的效果,该怎么办呢?有人也许会说:多训练几个epoch嘛! ...
分类:
其他好文 时间:
2020-06-17 20:25:50
阅读次数:
57
torchvision.model model子包中包含了用于处理不同任务的经典模型的定义,包括:图像分类、像素级语义分割、对象检测、实例分割、人员关键点检测和视频分类。 图像分类: 语义分割: 对象检测、实例分割和人员关键点检测: 视频分类: ResNet 3D ResNet Mixed Conv ...
分类:
其他好文 时间:
2020-05-24 19:23:48
阅读次数:
114
1.概述 erine是一种自然语言处理的预训练模型,对自然语言推理,命名实体识别,文本分类有很好的效果。 2.模型结构 3.模型结构 1).Transformer Encoder 该模型使用多层Transformer作为基本编码器,与其他预训练类似GPT、BERT等模型。Transformer可以捕 ...
分类:
其他好文 时间:
2020-05-19 00:58:52
阅读次数:
91
在2017年之前,语言模型都是通过RNN,LSTM来建模,这样虽然可以学习上下文之间的关系,但是无法并行化,给模型的训练和推理带来了困难,因此有人提出了一种完全基于attention来对语言建模的模型,叫做transformer。transformer摆脱了NLP任务对于RNN,LSTM的依赖,使用 ...
分类:
其他好文 时间:
2020-05-06 19:36:59
阅读次数:
53
先上开源地址: https://github.com/huggingface/pytorch-transformers#quick-tour 官网: https://huggingface.co/pytorch-transformers/index.html PyTorch-Transformers ...
分类:
其他好文 时间:
2020-04-28 14:44:40
阅读次数:
78
[TOC] 自回归语言模型与自编码语言 自回归语言模型 通过给定文本的上文,对下一个字进行预测 优点:对文本序列联合概率的密度估计进行建模,使得该模型更适用于一些生成类的NLP任务,因为这些任务在生成内容的时候就是从左到右的,这和自回归的模式天然匹配。 缺点:联合概率是按照文本序列从左至右进行计算的 ...
分类:
其他好文 时间:
2020-03-29 01:14:20
阅读次数:
104
调用预训练模型ResNet18时报错:RuntimeError: Given input size: (512x3x3). Calculated output size: (512x-3x-3). Output size is too small at /opt/conda/conda-bld/py ...
分类:
其他好文 时间:
2020-03-28 15:03:12
阅读次数:
590