目录 简述 梯度下降与梯度上升 梯度下降法算法详解 梯度下降法大家族(BGD,SGD,MBGD) 梯度下降法和其他无约束优化算法的比较 总结 在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法(在【2】中已... ...
分类:
其他好文 时间:
2020-02-23 21:50:51
阅读次数:
65
backward的gradient参数的作用 待办https://zhuanlan.zhihu.com/p/29904755https://zhuanlan.zhihu.com/p/29923090 讲的backward 偏导数计算的过程https://medium.com/@zhang_yang/... ...
分类:
其他好文 时间:
2020-02-22 22:26:29
阅读次数:
102
1、边缘检测基础 图像的边缘是图像的基本特征,边缘点是灰度阶跃变化的像素点,即灰度值的导数较大或极大的地方,边缘检测是图像识别的第一步。用图像的一阶微分和二阶微分来增强图像的灰度跳变,而边缘也就是灰度变化的地方。因此,这些传统的一阶微分算子如Robert、Sobel、prewitt等,以及二阶微分算 ...
分类:
其他好文 时间:
2020-02-17 23:57:35
阅读次数:
177
线性回归形如y=w*x+b的形式,变量为连续型(离散为分类)。一般求解这样的式子可采用最小二乘法原理,即方差最小化, loss=min(y_pred-y_true)^2。若为一元回归,就可以求w与b的偏导,并令其为0,可求得w与b值;若为多元线性回归, 将用到梯度下降法求解,这里的梯度值w的偏导数, ...
分类:
其他好文 时间:
2020-02-16 14:37:25
阅读次数:
59
数据库技术三级 指导 1、考试内容及要求 1、掌握数据库的基本概念、原理、方法和技术 2、能够使用SQL语言实现数据库操作[增删改查、触发器和存储过程等等] 3、具备数据库安装系统、配置及数据库管理与维护的基本性能 4、掌握数据库管理和维护的基本方法 5、掌握数据库优化的基本方法 6、了解数据库应用 ...
分类:
数据库 时间:
2020-02-16 13:01:32
阅读次数:
86
前向传播: \begin{align}\notag x_j^l = f(\sum_ {i\in M_j} x_i^{l 1} k_{ij}^l + b_j^l) \end{align} 前向传播: \begin{align}\notag x_j^l = f(\beta_j^l down(x_j^{l ...
分类:
其他好文 时间:
2020-02-15 18:45:19
阅读次数:
88
本文始发于个人公众号: TechFlow,原创不易,求个关注 上一篇文章我们复习了函数求导的定义和一些常见函数的导数,今天这篇文章我们回顾一下复杂函数的求导方法。先强调一下,今天的文章很重要,想要看懂机器学习各种公式推导,想要能够自己推一推各种公式,函数求导是基础中的基础,在算法这个领域,它比积分要 ...
分类:
其他好文 时间:
2020-02-14 10:56:50
阅读次数:
401
链接 "Remove Nth Node From End of List" 难度 Medium 描述 Given a linked list, remove the _n_ th node from the end of list and return its head. 给定一个链表,要求移除导数 ...
分类:
其他好文 时间:
2020-02-10 09:48:14
阅读次数:
47
定积分的近似计算 定积分应用相关公式 空间解析几何和向量代数 多元函数微分法及应用 微分法在几何上的应用 方向导数与梯度 多元函数的极值及其求法 ...
分类:
其他好文 时间:
2020-02-09 09:23:06
阅读次数:
53
导数公式: 基本积分表: 三角函数的有理式积分: 一些初等函数: 两个重要极限: 三角函数公式: ·诱导公式: 函数 角A sin cos tg ctg -α -sinα cosα -tgα -ctgα 90°-α cosα sinα ctgα tgα 90°+α cosα -sinα -ctgα ...
分类:
其他好文 时间:
2020-02-09 09:18:12
阅读次数:
83