论文参考:Deep Sparse Rectifier Neural Networks (很有趣的一篇paper) 起源:传统激活函数、脑神经元激活频率研究、稀疏激活性 传统Sigmoid系激活函数 传统神经网络中最常用的两个激活函数,Sigmoid系(Logistic-Sigmoid、Tanh-Si ...
分类:
其他好文 时间:
2017-10-20 10:05:25
阅读次数:
157
ICLR 2017会议论文。 摘要: 神经网络因为参数很多,所以很难训练。 Modern deep neural networks have a large number of parameters, making them very hard to train. 所以,分步骤训练参数。 We pr ...
分类:
Web程序 时间:
2017-10-11 21:04:56
阅读次数:
259
摘要: 以前的剪枝技术的缺点。 这个sparsity patterns到底是什么意思? ...
分类:
其他好文 时间:
2017-09-30 15:03:25
阅读次数:
233
Compressed Sparse Row,CSR格式的列下标向量和数据值向量与COO格式(三元组)类似,在行下标表示上做了压缩。根据数据的排列规则,只需要指定在哪个数据换到下一行就行。 把非零数据排成一列,并从0开始建立索引,row_ptr指定在哪个索引位置进行换行。例如,稀疏矩阵的第二行是1,那 ...
分类:
其他好文 时间:
2017-09-24 10:46:58
阅读次数:
571
线段树+RMQ问题第二弹 上篇文章讲到了基于Sparse Table 解决 RMQ 问题,不知道大家还有没有印象,今天我们会从线段树的方法对 RMQ 问题再一次讨论。 正式介绍今天解决 RMQ 问题的方法之前,我先对 RMQ 问题的概念再一次进行说明。RMQ (Range Minimum/Maxim ...
分类:
其他好文 时间:
2017-09-17 01:30:29
阅读次数:
185
RMQ-ST的含义 RMQ(Range Minimum/Maximum Query),即区间最值查询,是指这样一个问题:对于长度为n的数列A,回答若干询问RMQ(A,i,j)(i,j<=n),返回数列A中下标在i,j之间的最小/大值。ST算法(Sparse Table),ST(Sparse Tabl ...
分类:
编程语言 时间:
2017-09-16 17:23:04
阅读次数:
196
KVMvirt-install安装各个系统配置记录一下,谨防忘记。CentOS7virt-install\--accelerate\--namecentos7\--ram1024\--controllertype=scsi,model=virtio-scsi\--diskpath=/home/date/centos7.qcow2,size=10,sparse=true,cache=none,bus=scsi\--vcpus1\--os-typelinux\--os-vari..
分类:
其他好文 时间:
2017-09-14 23:32:43
阅读次数:
453
题目:faster cnns with direct sparse convolutions and guided pruning ,直接稀疏卷积和指导剪枝 能让cnn变faster?直接稀疏卷积是个什么东西?指导剪枝应该是提出了一种剪枝的方式。 Introduction: ...
分类:
其他好文 时间:
2017-09-14 00:38:52
阅读次数:
919
Deep Learning论文笔记之(二)Sparse Filtering稀疏滤波 自己平时看了一些论文,但老感觉看完过后就会慢慢的淡忘,某一天重新拾起来的时候又好像没有看过一样。所以想习惯地把一些感觉有用的论文中的知识点总结整理一下,一方面在整理过程中,自己的理解也会更深,另一方面也方便未来自己的 ...
分类:
其他好文 时间:
2017-09-09 14:30:49
阅读次数:
253
http://acm.hdu.edu.cn/showproblem.php?pid=5876 题意: 在补图中求s到其余各个点的最短路。 思路:因为这道题目每条边的距离都是1,所以可以直接用bfs来做。 处理的方法是开两个集合,一个存储当前顶点可以到达的点,另一个存储当前顶点不能到达的点。如果可以到 ...
分类:
其他好文 时间:
2017-09-04 22:33:17
阅读次数:
165