在机器学习中，模型的训练是一个很重要的过程，它通常是对一个目标函数进行优化，从而获取模型的参数，比较常见的优化算法包括梯度下降法、牛顿法与拟牛顿法等。但在大数据的背景下，尤其对于并行实现来说，优化算法通常是越简单越好，如坐标下降法（CD）和随机梯度下降法（SCG）就比较受欢迎。本文是阅读完论文 Distributed Coordinate Descent Method for Learning with Big Data 的一则笔记，主要介绍算法 Hydra （一种分布式坐标下降法）的算法框架、收敛性理论、...
分类：
其他好文 时间：
2014-06-29 07:38:26
阅读次数：
350
Log-Linear 模型（也叫做最大熵模型）是 NLP 领域中使用最为广泛的模型之一，其训练常采用最大似然准则，且为防止过拟合，往往在目标函数中加入（可以产生稀疏性的） L1 正则。但对于这种带 L1 正则的最大熵模型，直接采用标准的随机梯度下降法（SGD）会出现效率不高和难以真正产生稀疏性等问题。本文为阅读论文 Stochastic Gradient Descent Training for L1-regularized Log-linear Models with Cumulative Penalty...
分类：
其他好文 时间：
2014-06-19 12:01:04
阅读次数：
286
题意:给定两个字符串 判断是否在第二个字符串中存在子串（可以不连续）为第一个穿大水体#includeusing namespace std;char s[100001],t[100001];int main(){ int ls,le; int ts,te; int l1,l2; ...
分类：
其他好文 时间：
2014-06-14 20:41:37
阅读次数：
184
计算机体系结构
白中英编我还是准备再读一遍，至少整理一下，所有书本的（关于实在的知识）是共同的，要看书的表述和你的的理解。不用过度在意细节。第一章体系结构相关概念1.
对计算机描述的一种方法是基于层次，具体的说基于操作的语言层次：L0，硬联逻辑层，逻辑设计员，逻辑电路；L1，微程序机器层，微程序设计...
分类：
其他好文 时间：
2014-06-13 17:20:56
阅读次数：
155
当CPU访问某个地址，会首先将访问请求发给L1D内存控制器，如果在L1D cache或L1D SRAM（CPU直接访问L1D内存）中命中，则L1D内存控制器就向CPU直接返回访问内存，如果没有命中则需要L2内存控制器请求…
这样当CPU访问的地址是空地址（NULL）或者是DSP中reserved（DSP没有开放使用的内存地址）的地址，在L1D内存控制器中就会检测到CPU非法地址访问，就会通过L1...
分类：
其他好文 时间：
2014-06-08 15:26:04
阅读次数：
166
在代码维护中，发现一个指针的初始值是0，在没有走到正常分支处该指针是不会被赋值的，而在软件的启动阶段，恰恰该指针不会走到正常分支，所以在后面使用该指针的时候，并没有判断指针值是否为空，所以CPU使用空指针访问，就会出现问题，并在L1内存控制器中被检测到，通过event 122=0x7A上报。
根据下图CPU通过空指针访问0x48的地址，是因为空指针指向一个结构体，在用指针去访问结构体中某个变量，...
分类：
其他好文 时间：
2014-06-08 03:46:13
阅读次数：
217
1. 数组及可变性当创建一个数组的时候，它将与一个对象进行绑定L1 = [1, 2, 3] L2 =
L1L1[0] = 4 print（L2）#=》[4, 2, 3]L2 = L1
意味着L2与L1指向同一个对象，而L1[0]=4则改变了对象的值，所以最终L2的值也会改变，可以与下面这个例子进行比...
分类：
其他好文 时间：
2014-06-07 23:38:45
阅读次数：
271
从其他地方看到的源码是有问题的。 /// /// 计算两条直线的交点 /// /// L1的点1坐标
/// L1的点2坐标 /// L2的点1坐标 /// L2的点2坐标 /// public static PointF
GetIntersection(PointF lineFi...
分类：
其他好文 时间：
2014-06-05 17:34:15
阅读次数：
217
本文出自 http://blog.csdn.net/shuangde800
题目传送门
题意：
给出一棵树，求离每个节点最远的点的距离
思路：
把无根树转化成有根树分析，
对于上面那棵树，要求距结点2的最长距离，那么，就需要知道以2为顶点的子树（蓝色圈起的部分，我们叫它Tree（2）），距顶点2的最远距离L1...
分类：
其他好文 时间：
2014-06-05 06:56:39
阅读次数：
226
Given a singly linked list
L: L0→L1→…→Ln-1→Ln,
reorder it to: L0→Ln→L1→Ln-1→L2→Ln-2→…
You must do this in-place without altering the nodes' values.
For example,
Given {1,2,3,4}, r...
分类：
其他好文 时间：
2014-06-03 03:12:46
阅读次数：
222
