梯度下降推导与优化算法的理解和Python实现目录梯度下降算法推导优化算法的理解和Python实现SGDMomentumNestrovAdaGradRMSpropAdam算法的表现1梯度下降算法推导模型的算法就是为了通过模型学习，使得训练集的输入获得的实际输出与理想输出尽可能相近。极大似然函数的本质就是衡量在某个参数下，样本整体估计和真实情况一样的概率，交叉熵函数的本质是衡量样本预测值与真实值之间
分类：
编程语言 时间：
2020-12-19 12:30:58
阅读次数：
5
零、Introduction类似于word2vec，GloVe也是一种词向量训练方法，改进如下:能够更好的利用全局统计量，训练速度更快仍然保留了局部窗口共现信息，语义效果略好于word2vec接下来，我会简要介绍GloVe模型的推导、PyTorch实现、使用方法一、推导原文提到了两种推导思路：一是【用词向量点积去拟合共现概率比】，二是【逐步改良SkipGram】；分别介绍如下直接拟合概率比首先定义
分类：
其他好文 时间：
2020-12-19 12:27:01
阅读次数：
1
1.高效工具 1.1高效敲码 1.1.1Cheatsheets 深度学习常用库的速查表 2.文章讲解 2.1特征工程 特征锦囊：如何在Python中处理不平衡数据 2.2模型详解 2.2.1序列模型 人人都能看懂的GRU 强推|人人都能看懂的LSTM介绍及反向传播算法推导(非常详细) 2.2.2机器 ...
分类：
其他好文 时间：
2020-12-08 12:59:52
阅读次数：
10
android测试点整理Android的功能测试点安装\卸载App具体功能点联网（默认的联网方式是什么？WifiorSim卡？网络切换是否有相应的提示说明？飞行模式）程序进入输入功能时，是否正常弹出键盘;键盘是否遮挡了应用需要输入内容的对话框home和程序间多次切换返回上一级操作，退出程序后的提示当离开测试应用一段时间后，在回到测试应用时不能丢失用户数据衡屏竖屏切换时不能丢失用户数据长按某一按钮是
分类：
移动开发 时间：
2020-12-05 10:33:51
阅读次数：
18
格林某式： 设闭区域 \(D\) 由分段光滑的曲线 \(L\) 所围成，函数 $P(x,y)$及$Q(x,y)$在 \(D\) 上具有一阶连续 偏导数，则有$\iint \limits_D (\frac{\partial Q}{\partial x}-\frac{\partial P}{\parti ...
分类：
其他好文 时间：
2020-12-03 11:36:30
阅读次数：
3
decltype介绍 为什么需要decltype decltype(auto) 注意(entity) 与模板参数推导和auto推导一样，decltype的结果大多数情况下是正常的，但是也有少部分情况是反直觉的。 decltype介绍 给定一个name或者expression，decltype会告诉你 ...
分类：
编程语言 时间：
2020-12-03 11:29:37
阅读次数：
8
一、列表推导式 如何生成一个[data0、data1、data2.....data99]的列表?? 循环方法： list1=[] for i in range(100): list1.append('data{}'.format(i)) print("list1的值为：",list1) 用列表推导式 ...
分类：
其他好文 时间：
2020-12-01 12:25:48
阅读次数：
7
GAN的数学推导前面我们讲了一下GAN的基本思想，最近看了一下GAN的论文，又恰好看到了李宏毅老师的课程，感觉里面的数学推导很有意思，所以准备写下来以备之后查阅。首先需要一点预备知识，KLdivergence，这是统计中的一个概念，是衡量两种概率分布的相似程度，其越小，表示两种概率分布越接近。对于离散的概率分布，定义如下对于连续的概率分布，定义如下根据我们之前讲的内容，我们要做的事情就如下图所示我
分类：
其他好文 时间：
2020-11-27 11:27:18
阅读次数：
8
我一直说python是非常优美的语言，那到底如何个美呢，其中有一个特性就是简洁.很多果粉为啥特别喜欢苹果手机和苹果电脑，一方面确实做的漂亮，另外一个就是简洁。你想苹果手机开机关机，删软件都是一个步骤，而我们用win，关机至少3-5步，删软件更不要说了，非常麻烦.有的时候做产品不是要做加法而且要做减法，并且做到极致(有点跑题了，我们还是回到python)我把python里面非常有名的简洁，高效，方便
分类：
编程语言 时间：
2020-11-27 11:11:35
阅读次数：
8
10分钟快速入门PyTorch(1)上一篇教程10分钟入门pytorch(0)我们基本的介绍了pytorch里面的操作单元，Tensor，以及计算图中的操作单位Variable，相信大家都已经熟悉了，下面这一部分我们就从两个最基本的机器学习，线性回归以及logistic回归来开始建立我们的计算图进行运算。由于这个系列文章主要是将pytorch教程的，所以每个算法的太多数学背景以及推导过程就不再细讲
分类：
其他好文 时间：
2020-11-27 10:55:05
阅读次数：
5
