交叉熵损失函数 交叉熵的几种表达形式 Binary CrossEntropy Categorical CrossEntropy 对数似然函数与交叉熵的关系 均方误差与交叉熵误差(sigmoid为激活函数) 均方误差(MSE)与梯度更新 交叉熵误差与梯度更新 对比与结论 多分类交叉熵函数的梯度更新(s ...
分类：
其他好文 时间：
2020-07-08 19:48:06
阅读次数：
99
$$f(\vec{x})=\vec{w}^T\vec{x}+b$$ ...
分类：
其他好文 时间：
2020-05-10 23:16:00
阅读次数：
63
Loss函数 定义： 用法很简单，就是计算均方误差平均值，例如 Metrics函数 Metrics函数也用于计算误差，但是功能比Loss函数要复杂。 定义 这个定义过于简单，举例说明 输出结果 这个结果等价于 这是因为Metrics函数是 状态函数 ，在神经网络训练过程中会持续不断地更新状态，是有记 ...
分类：
其他好文 时间：
2020-04-22 19:55:00
阅读次数：
308
基本形式 线性模型，具有更好的可解释性，每个参数有表示的意义。 线性回归试图学得一个线性模型以尽可能准确地预测实值输出标记。 要训练w使得代价函数最小，如何选一个w使得代价函数最小？ 最小均方算法(LMS)。基于均方误差最小化来进行模型求解的方法称为“最小二乘法” 然而，显示生活中很多XTX不是满秩 ...
分类：
其他好文 时间：
2020-04-22 00:22:10
阅读次数：
78
一、神经网络的实现过程 1、准备数据集，提取特征，作为输入喂给神经网络 2、搭建神经网络结构，从输入到输出 3、大量特征数据喂给 NN，迭代优化 NN 参数 4、使用训练好的模型预测和分类 二、前向传播 前向传播就是搭建模型的计算过程，可以针对一组输入给出相应的输出。 举例：假如生产一批零件， 体积 ...
分类：
其他好文 时间：
2020-03-20 22:18:30
阅读次数：
75
机器学习之回归篇（一） 一、综述 ? 回归就是从一组数据出发，确定某些变量之间的定量关系式，也就是建立数学模型并估计未知参数。回归的目的是预测数值型的目标值，它的目标是接受连续数据，寻找最适合数据的方程，并能对特定的值进行预测。其中所寻求的方程叫做回归方程，求解回归方程，首先要确定模型，最简单的回归 ...
分类：
其他好文 时间：
2020-03-18 13:14:27
阅读次数：
47
简书 原作者 skullfang https://www.jianshu.com/p/9ee85fdad150 分类问题的评价指标是准确率，那么回归算法的评价指标就是MSE，RMSE，MAE、R Squared 1.均方误差（MSE） MSE （Mean Squared Error）叫做均方误差。看 ...
分类：
其他好文 时间：
2020-02-27 00:41:01
阅读次数：
112
1.MSE（均方误差） MSE是指真实值与预测值（估计值）差平方的期望，计算公式如下： MSE = 1/m (Σ(ym-y'm)2)，所得结果越大，表明预测效果越差，即y和y'相差越大 y = tf.constant([1,2,3,0,2]) y = tf.one_hot(y,depth=4) y ...
分类：
其他好文 时间：
2020-01-27 15:40:00
阅读次数：
100
梯度下降法 梯度下降法（英语：Gradient descent）是一个一阶最优化算法，通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值，必须向函数上当前点对应梯度（或者是近似梯度）的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索，则会接近函数的局部极大值点；这 ...
分类：
其他好文 时间：
2020-01-24 17:28:40
阅读次数：
113
参考《机器学习》，周志华，清华大学出版社 第二章 回归问题 回归任务常用的度量指标是：均方误差 $$ E(f;D)=\frac {1}{m}\sum^{m}_{i=1}(f(x_{i}) y_{i})^{2} $$ 分类问题 分类任务中常用的性能度量指标是：错误率、精度 错误率：分类错误的样本数/样 ...
分类：
其他好文 时间：
2020-01-15 11:56:07
阅读次数：
91
