本篇借鉴了这篇文章，如果有兴趣，大家可以看看：https://blog.csdn.net/geter_CS/article/details/84857220 1、交叉熵：交叉熵主要是用来判定实际的输出与期望的输出的接近程度 2、CrossEntropyLoss()损失函数结合了nn.LogSoftm ...
分类：
其他好文 时间：
2020-06-26 14:34:08
阅读次数：
590
分类器性能评估指标 一、精度-召回率-F度量 Precision-Recall-F_measure 准确率和混淆矩阵 二、损失函数 Loss Function 三、接收机操作曲线 ROC Curve 回归器效能评估方法 ...
分类：
其他好文 时间：
2020-06-19 00:56:38
阅读次数：
69
作者|Renu Khandelwal 编译|VK 来源|Medium 什么是梯度下降? 梯度下降法是一种减少成本函数的迭代机器学习优化算法，使我们的模型能够做出准确的预测。 成本函数(C)或损失函数度量模型的实际输出和预测输出之间的差异。成本函数是一个凸函数。 为什么我们需要梯度下降? 在神经网络中 ...
分类：
其他好文 时间：
2020-06-17 19:53:07
阅读次数：
51
在 TensorBoard 中观察损失模型的参数，损失值等变量的变化。 一、实现步骤 1.创建事件文件 file_writer = tf.summary.FileWrite('e:/events/test',graph=sess.graph) 2.收集变量 收集对于损失函数和准确率等单值变量使用 t ...
分类：
其他好文 时间：
2020-06-11 21:54:45
阅读次数：
66
《Python深度学习》第三章神经网络入门部分内容，有关神经网络的层和损失函数选取。一、层的选取 1.2D张量，选取全连接层，也叫密集连接层，Keras中对应Dense，例如像神经网络中加入一个512输入，32输出的Dense层 network.add(layers.Dense(32, input_ ...
分类：
其他好文 时间：
2020-06-09 11:17:49
阅读次数：
108
反向传播（BPN）算法是神经网络中研究最多、使用最多的算法之一，它用于将输出层中的误差传播到隐藏层的神经元，然后用于更新权重。学习 BPN 算法可以分成以下两个过程： 正向传播：输入被馈送到网络，信号从输入层通过隐藏层传播到输出层。在输出层，计算误差和损失函数。 反向传播：在反向传播中，首先计算输出 ...
分类：
编程语言 时间：
2020-06-08 18:50:29
阅读次数：
84
1.梯度下降法 是一种基于搜索的最优化方法，作用是最小化一个损失函数。 但不是所有的函数都有唯一的极值点。 解决方案：多次运行，随机初始化点 梯度下降法的初始点也是一个超参数 线性回归法的损失函数具有唯一的最优解。 模拟实现梯度下降法 1 import numpy as np 2 import ma ...
分类：
其他好文 时间：
2020-06-05 21:05:44
阅读次数：
70
mean_squared_error(y_true, y_pred) mean_absolute_error(y_true, y_pred) mean_absolute_percentage_error(y_true, y_pred) mean_squared_logarithmic_error(y ...
[toc] 遗传 选择，交叉，变异 模拟退火 假设前一个状态为$x(n)$，系统根据某一规则（比如梯度下降）使状态变为$x(n+1)$时，系统的能量（通过损失函数算得）由$E(n)$变为E(n+1)，定义由$x(n)$到$x(n+1)$的状态转化的接受概率为： $P=\left\{\begin{ma ...
分类：
其他好文 时间：
2020-05-24 11:37:03
阅读次数：
75
模型估计与模型选择 模型估计 当损失函数给定时，基于损失函数的模型的训练误差和模型的测试误差就成为了学习方法评估的标准。测试误误差反映了学习方法对未知的测试数据集的预测能力，又被称为泛化能力。 过拟合：一味的追求提高训练数据的预测能力，所选模型的复杂度则往往会比真模型更高，但会造成过拟合。为了防止过 ...
分类：
其他好文 时间：
2020-05-23 09:56:42
阅读次数：
46
