1.作用 L2的作用是防止参数太大。 2.求导过程 Wij是参数矩阵 假设神经网络表达式如下 使用绝对值损失,对应的y'是true label 加入L2损失,损失函数变为如下 按照链式求导法则,损失L对W的导数如下: 新参数的更新如下: 同理可以对bias有L2损失。 ...
分类:
其他好文 时间:
2019-12-25 17:53:29
阅读次数:
524
用极大似然来求解参数, 求导很有技巧,之前跟之前LDA相似, 还得用拉格朗日乘子求条件极值 ...
分类:
其他好文 时间:
2019-12-21 09:20:17
阅读次数:
144
针孔模型 中心投影可以非常简单地表示成齐次坐标之间的线性映射。 为摄像机坐标系中的物体坐标 是物体投影在图像平面的位置。 则有 , 其中K为3*4的摄像机投影矩阵。 摄像机模型 针孔模型的X是相对摄像机坐标系而言的,而往往摄像机是不断运动的(位姿在不断变化),空间点的世界坐标系是恒定不变的。摄像机坐 ...
分类:
其他好文 时间:
2019-12-21 00:08:39
阅读次数:
136
因为 是协方差矩阵,只有对角线上有元素,所以转置对它没有影响,即 其实递推最小二乘法:就是想使方差之和最小,然后发现,方差之和就是估计误差的协方差矩阵的迹,迹里面又包含了K,所以也就是求K使得迹最小,即对K求导。 参考链接:https://zhuanlan.zhihu.com/p/59532437 ...
分类:
其他好文 时间:
2019-12-20 20:40:34
阅读次数:
85
来源:http://www.yujzw.com/cswzjs/pingbiipdizhi.html 在阿里云后台的云盾监控—》威胁—》攻击,会发现每天有大量的恶意攻击,存在大量GET请求,导致服务器资源浪费无用消耗。 最近7天攻击类型 仔细查看攻击来源的信息,发现99%以上的攻击ip地址,都存在历史 ...
分类:
其他好文 时间:
2019-12-13 21:22:10
阅读次数:
111
实在是太毒瘤了。 大纲。 多项式生成函数相关 默认前置:微积分,各种数和各种反演,FFT,NTT,各种卷积,基本和式变换。 主要内容: 泰勒展开,级数求和,牛顿迭代,主定理。 //例题:在美妙的数学王国中畅游,礼物 多项式全家桶:乘法,求逆,求导,积分,分治,ln,exp,fwt,MTT。 //城市 ...
分类:
其他好文 时间:
2019-12-11 22:00:44
阅读次数:
148
一、【微积分】 基础概念(极限、可微与可导、全导数与偏导数):只要学微积分,就必须要明白的概念,否则后面什么都无法继续学习。函数求导:求导是梯度的基础,而梯度是 AI 算法的基础,因此求导非常重要!必须要搞清楚概念,并学会常见函数的导函数求法。链式法则:符合函数求导法则,反向传播算法的理论基础。泰勒 ...
分类:
其他好文 时间:
2019-12-11 17:13:30
阅读次数:
100
不想看分析的,直接看最后的总结。 根据需求导出的数据,需要作格式化处理,如果数据为数字类型,则需要格式化。代码如下: 但是得到的效果并不让人满意,看下图Excel截图,敏感信息未截取: 然后看控制台报警告: Warning: Maximum number of format records exce ...
分类:
其他好文 时间:
2019-12-05 13:25:33
阅读次数:
144
C Minimum Value Rectangle 题意:给n根木棒,选4根组成长方形,使得这个长方形的周长的平方比上其面积最小。 题解:对那个式子求导,发现对于同一个长来说,是长和宽越接近,上式越小。那么排序之后每个和他附近的一个组装一下就行了。 要是真按基环树去做,是不是要从入度0的点一个一个d ...
分类:
其他好文 时间:
2019-12-03 23:20:06
阅读次数:
94
Tensor import torch x = torch.ones(2, 2, requires_grad=True) # 将其属性.requires_grad设置为True,它将开始追踪(track)在其上的所有操作。完成计算后,可以调用.backward()来完成所有梯度计算 print(x) ...
分类:
其他好文 时间:
2019-11-30 13:48:29
阅读次数:
102