0、总结 参考：https://blog.csdn.net/eric_lh/article/details/78994461 1、定义 参考：https://blog.csdn.net/qq_48736958/article/details/114543957 ① 导数： 反映的是函数y=f(x)在 ...
分类：
其他好文 时间：
2021-06-19 18:57:14
阅读次数：
0
本章将介绍函数,极限,无穷大和无穷小,连续性与导数,偏导数,方向导数,梯度等高等数学基本概念. 这些概念贯穿本书的各个章节,也是理解人工智能算法的基础数学知识. 梯度下降算法是机器学习领域的重要算法,是应用最广泛的优化算法之一. 在本章综合实例中将重点介绍梯度下降法及其应用实例,并通过Python语 ...
分类：
其他好文 时间：
2020-12-21 11:08:12
阅读次数：
0
主要内容（下划线部分）：接上篇博文：干货|掌握机器学习数学基础之优化[1]（重点知识）1、计算复杂性与NP问题2、上溢和下溢3、导数，偏导数及两个特殊矩阵4、函数导数为零的二三事5、方向导数和梯度6、梯度有什么用7、梯度下降法8、牛顿法1方向导数和梯度：方向导数:在之前讲偏导数的时候，相信很多人已经看出，偏导数求的都是沿着坐标轴的变化率，不管多少维也好，都只是求的变化率，那现在问题来了，如果我想求
分类：
其他好文 时间：
2020-11-30 15:14:34
阅读次数：
5
方向导数是单侧的右极限 可微==>方向导数一定存在 方向余弦，x的方向余弦，x/根号 x^2 + y^2 + z^2 梯度 ...
分类：
其他好文 时间：
2020-06-13 15:46:11
阅读次数：
84
同步进行一波网上代码搬砖, 先来个入门的线性回归模型训练, 基于梯度下降法来, 优化用 MSE 来做. 理论部分就不讲了, 网上一大堆, 我自己也是理解好多年了, 什么 偏导数, 梯度(多远函数一阶偏导数组成的向量) , 方向导数, 反方向(梯度下降) 这些基本的高数知识, 假设大家是非常清楚原理的 ...
分类：
其他好文 时间：
2020-05-17 01:06:00
阅读次数：
75
用自己的话总结“梯度”，“梯度下降”和“贝叶斯定理”。 梯度 一个向量，表示某一函数在该点处的方向导数沿该方向取得最大值，即函数在该点处沿着该方向变化最快且变化率最大。 梯度下降 一种迭代法，可用于求解最小二乘问题。（让梯度中所有偏导函数都下降到最低点的过程） 贝叶斯定理 关于随机事件A和B的条件概 ...
分类：
其他好文 时间：
2020-04-13 16:57:33
阅读次数：
77
定积分的近似计算 定积分应用相关公式 空间解析几何和向量代数 多元函数微分法及应用 微分法在几何上的应用 方向导数与梯度 多元函数的极值及其求法 ...
分类：
其他好文 时间：
2020-02-09 09:23:06
阅读次数：
53
导数 导数是一个数，函数y(x)在x0点的导数y'(x0)反应了在x0处y随x的变化快慢 微分 微分指函数值的微小变化 在x0可微：在x0点y和x的微分成线性关系（只与该点函数值有关） 导数可看做函数的微分与自变量的微分之商，故导数又称微商 偏导数 函数在一点处沿坐标轴的变化率 方向导数 函数在一点 ...
分类：
编程语言 时间：
2020-01-29 22:00:26
阅读次数：
96
以案例 + 公式推导 + 代码编写, 来走一遍神经网络的 FG, BP算法. ...
分类：
编程语言 时间：
2020-01-25 10:35:28
阅读次数：
94
1. 梯度下降法介绍 1.1 梯度 在多元函数微分学中，我们都接触过梯度(Gradient)的概念。 回顾一下，什么是梯度？ 梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。 这是百度百科 ...
分类：
其他好文 时间：
2019-12-03 21:51:04
阅读次数：
104
