基本思路,通过newlisp定时下载jobtracker页面,用正则表达式解析html中的table元素,然后获得最新的mapreduce的状态。每次获得装提数据后,存入mysql数据库,然后用tableau将mapreduce集群状态用报表呈现。这是jobtracker站点的数据这是Tableau绘制的报表这样就可以用数据可视化的方式展示Hadoop集群计算的压力状态。下面是newlisp代码,...
分类:
其他好文 时间:
2014-11-01 21:55:03
阅读次数:
381
jenkins参数有一种text类型,可以复制文本段落作为参数newlisp程序接收的参数是用空格分隔的,较好的方法是在jekis的console里面调用newlisp脚本的时候加上双引号,比如:cd code
./mail.lsp ${receiver} ${title} "${msg}"这里${msg}是文本参数...
分类:
其他好文 时间:
2014-10-26 19:49:46
阅读次数:
158
有时候需要拟合数据,比如某周五的数据因故无法生成, 可以用下面的算法简单拟合。计算前两周的周四,周五的环比(邻比), 两个邻比求平均后, 乘以 周四的数据,得到周五的数据。用newLISP实现代码很简单:参考下面的示例:#!/usr/bin/newlisp
(define (adjacent-div a b)
(div (sub b a) a))
(define (average a b...
分类:
其他好文 时间:
2014-10-11 23:39:57
阅读次数:
321
本文环境和之前的Hadoop 1.x不同,是在Hadoop 2.x环境下测试。newLISP脚本,在stdin中读取数...
分类:
其他好文 时间:
2014-10-04 22:24:07
阅读次数:
183
HTTP Basic Authentication原来非常简单,参考文档:http://zh.wikipedia.org/wiki/HTTP%E5%9F%BA%E6%9C%AC%E8%AE%A4%E8%AF%81将用户名和密码用:分隔,然后用base64编码,最后用HTTP GET方法请求页面下面一小段代码用newLISP调用了Jenkins的Remote API:dean@dean-beijin...
分类:
其他好文 时间:
2014-10-02 14:26:53
阅读次数:
171
起因:官方网站上没有适合Debian64的二进制安装包,用源码包直接make时会失败,这里给出解决方法。 1,从官网(http://www.newlisp.org)下载源码包后解压:? tar xvf Downloads/newlisp-10.6.0.tgz
mv newlisp-10...
分类:
其他好文 时间:
2014-09-19 12:20:15
阅读次数:
292
需求是几百个文件,命名规则类系下面的文件名:dailydata_20140320.txt通过newLISP合并,首先是自动生成这些文件名,然后用read-file读取内容,再用append-file写入到一个文件中。注意删除上次运行的结果,也要注意有文件不存在的话需要出error.log日志。代码如下:#!/usr/bin/newlisp
(set 'start-date "20140101 0...
分类:
其他好文 时间:
2014-09-18 16:33:34
阅读次数:
202
一个需求,需要从20140101那天开始,然后一直找到8月份。用newlisp计算日期的话,需要考虑日历月的天数不一样。比较容易的方法是采用epoch秒数,然后每次加一天的描述,再转换成日期字符串,下面的代码如下:#!/usr/bin/newlisp
(println "ok")
(set 'start-date "20140101 00:00")
(set 'start-seconds (d...
分类:
其他好文 时间:
2014-09-18 11:37:03
阅读次数:
272
match函数很特别, 就是用两个list比较的时候,后一个list中如果有符合前一个list的通配符的描述,则挑出来,作为独立的list返回。简单的例子如下:> (match '(a ? c) '(a b c))
(b)
注意通配符只有三种: * ? 和 +* 表示任何多个元素? 表示可以有元素,也可以没有+ 表示至少有一个元素(match '(a ? c) '(a (x y z) c)) →...
分类:
其他好文 时间:
2014-09-09 13:17:38
阅读次数:
492
member函数用法很奇怪,用一个元素到list中查找,如果找到,则将找到的元素和之后所有元素变成一个新的list返回,如果找不到则返回nil.(set 'aList '(a b c d e f g h)) → (a b c d e f g h)
(member 'd aList) → (d e f g h)
(member 55 aList) ...
分类:
其他好文 时间:
2014-09-07 23:52:26
阅读次数:
339