在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（GradientDescent）是最常采用的方法之一，另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。1.梯度在微积分里面，对多元函数的参数求偏导数，把求得的各个参数的偏导数以向量的形式写出来，就..
分类：
其他好文 时间：
2017-05-14 10:55:32
阅读次数：
139
Ceres Solver是谷歌2010开始就使用的解决优化问题的C++库，并且在2014年开源． 在SLAM领域优化问题还可以使用g2o来求解．不过Ceres提供了自动求导功能，虽然是数值求导，但是有时可以避免复杂的雅克布计算，目前来看Ceres相对于g2o的缺点仅仅是依赖的库多一些（g2o仅依赖E ...
分类：
其他好文 时间：
2017-05-07 18:43:41
阅读次数：
189
本文翻译自D-Wave公司网站 www.dwavesys.com/en/dev-tutorial-intro.html D-wave公司在2007年就声称实现了128位的量子计算机，并会在今年推出512位的量子计算机。 传统计算机需要大量穷举试算才能求解的数值优化问题，在量子计算机中利用量子的物理特 ...
分类：
其他好文 时间：
2017-05-07 13:03:27
阅读次数：
282
问题场景： 商品表goods，里面有几个大文本字段，类型用的MediumText，表中记录28万多。分页查询时用limit，在一般PC上需要12秒左右，这个数量级的数据不应该这么慢。 原因分析： 几个大文本拖慢了查询速度，如果只查主键或数字类型的字段则很快。有人说你分页干嘛查大文本啊，原因是产品经理 ...
分类：
数据库 时间：
2017-05-05 12:46:45
阅读次数：
247
步长：最优化问题中的叫法； 学习速率：神经网络中的叫法； 梯度更新的方式： 为步长（学习率）。 其中有必要说一点的是表示的是当前实际的输出，y表示的是其类标。 当输入为x时，目标函数表示为一个线性函数的形式为：。其中每一个x1,x2,...表示的是维度。 1. 梯度下降：对于的更新是所有样本都参与的 ...
分类：
其他好文 时间：
2017-05-05 00:47:13
阅读次数：
215
在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。 1. 梯度 在微积分里面，对多元函数的参数求?偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。比如函数 ...
分类：
其他好文 时间：
2017-05-03 17:30:08
阅读次数：
207
问题可以分解成若干相互联系的阶段，在每一个阶段都要做出决策，全部过程的决策是一个决策序列。要使整个活动的总体效果达到最优的问题，称为多阶段决策问题。动态规划就是解决多阶段决策最优化问题的一种思想方法。 阶段 将所给问题的过程，按时间或空间特征分解成若干相互联系的阶段，以便按次序去求每阶段的解 状态 ...
分类：
其他好文 时间：
2017-04-26 21:37:43
阅读次数：
219
基本模型 多阶段决策过程的最优化问题。 含有递推的思想以及各种数学原理（加法原理，乘法原理等等）。 在现实生活中，有一类活动的过程，由于它的特殊性，可将过程分成若干个互相联系的阶段，在它的每一阶段都需要作出决策，从而使整个过程达到最好的活动效果。当然，各个阶段决策的选取不是任意确定的，它依赖于当前面 ...
分类：
其他好文 时间：
2017-04-26 21:28:15
阅读次数：
210
关于多层for循环迭代的效率优化问题 今天笔试的时候遇到这么一道题目 说有上面这么循环嵌套 。问怎么优化 并说明原因。 for(int i = 0 ; i < 1000 ;i++){ for(int j = 0; i < 100; j++){ for(int k = 0;k < 10; k++ ){ ...
分类：
其他好文 时间：
2017-04-26 14:35:37
阅读次数：
145
这几天公司的项目已经完成的差不多了，只剩下各种优化问题。今天着重于图片加载的优化。当一个页面需要下拉很长而且又有过多的图片要加载时，就会发生很多http请求，就会拉慢网页加载速度，用户体验不友好。怎么解决这个问题呢？jQuery插件库中有个插件lazyload.js可以实现图片懒加载。 lazylo ...
分类：
Web程序 时间：
2017-04-25 10:19:57
阅读次数：
311
