引用：https://yq.aliyun.com/articles/603116 5步法： 构造网络模型 编译模型 训练模型 评估模型 使用模型进行预测 4种基本元素： 网络结构：由9种基本层结构和其他层结构组成 激活函数：如relu, softmax。口诀: 最后输出用softmax，其余基本都用 ...
分类：
其他好文 时间：
2019-01-08 10:55:08
阅读次数：
184
基于递阶递归神经网络的音频超分辨率 作者：Berthy Feng 摘要 本工作提出了一种用于音频超分辨率的递归模型，该模型的任务是推断低分辨率录音的高分辨率版本。鉴于缺乏基线方法和最合适的深度学习方法的模糊性，我们将重点放在递归神经网络上。我们提出了一种分层递归神经网络(Hrnn)，它使用基于回归的 ...
分类：
Web程序 时间：
2019-01-06 14:28:54
阅读次数：
195
在此我们以MSE作为代价函数： 其中， C表示代价 函数 ，x表示样本， y表示实际值， 表示实际值， 表示实际值， a表示输出值， 表示输出值， n表示样本的总数。为简单起见 表示样本的总数。为简单起见 表示样本的总数。 a=σ(z), z=∑W j*X j+bσ() 是激活函数 使用梯度下降法( ...
分类：
其他好文 时间：
2018-12-30 13:59:55
阅读次数：
206
交叉熵损失是分类任务中的常用损失函数，但是是否注意到二分类与多分类情况下的交叉熵形式上的不同呢？ 两种形式 这两个都是交叉熵损失函数，但是看起来长的却有天壤之别。为什么同是交叉熵损失函数，长的却不一样？ 因为这两个交叉熵损失函数对应不同的最后一层的输出：第一个对应的最后一层是softmax，第二个对 ...
分类：
其他好文 时间：
2018-12-24 00:12:53
阅读次数：
141
着重介绍hige loss 和 softmax loss。 "svm回顾" $C_1,C_2$是要区分的两个类别，通过分类函数执行时得到的值与阈值的大小关系来决定类别归属，例如： $$g(x) = g(w^Tx+b)$$ 我们取阈值为0，此时$f(x)=sgn[g(x)]$就是最终的判别函数。对于同 ...
分类：
其他好文 时间：
2018-12-22 13:06:44
阅读次数：
409
#!/usr/bin/envpython2#-*-coding:utf-8-*-"""CreatedonWedAug819:13:092018@author:myhaspl"""importtensorflowastffromtensorflow.examples.tutorials.mnistimportinput_datamnist=input_data.read_data_sets("MNI
分类：
其他好文 时间：
2018-12-15 00:18:42
阅读次数：
255
本文来自《Large Margin Softmax Loss for Convolutional Neural Networks》，时间线为2016年12月，是北大和CMU的作品。 0 引言 过去十几年，CNN被应用在各个领域。大家设计的结构，基本都包含卷积层和池化层，可以将局部特征转换成全局特征， ...
分类：
其他好文 时间：
2018-12-14 15:00:50
阅读次数：
194
首先说明啊：logistic分类器是以Bernoulli（伯努利） 分布为模型建模的，它可以用来分两种类别；而softmax分类器以多项式分布（Multinomial Distribution）为模型建模的，它可以分多种互斥的类别。 补充： 什么是伯努利分布？伯努利分布[2] 是一种离散分布,有两种 ...
分类：
其他好文 时间：
2018-12-12 14:58:10
阅读次数：
235
#!/usr/bin/envpython2#-*-coding:utf-8-*-"""CreatedonTueOct208:43:022018@author:myhaspl@email:myhaspl@myhaspl.comtf.nn.softmaxtf.nn.sparse_softmax_cross_entropy_with_logitstf.nn.softmax_cross_entropy_w
分类：
其他好文 时间：
2018-12-03 20:10:55
阅读次数：
205
https://mp.weixin.qq.com/s/2vjM-gcauvHnn6KJzlOm4g Chisel的模块和Verilog的模块很相似，都用来定义模块结构（hierarchical structure）。 Chisel的模块定义，包含三部分内容： a. 继承自Module类； b. 定义 ...
分类：
其他好文 时间：
2018-12-02 14:21:58
阅读次数：
321
