最近在学Hadoop,的确是个好东西,内部原理的确很难理解,不过用起来还是比较方便的因为刚接触,一些指令还是写记下hadoop fs -rmr 每次运行前都要删除输出目录hadoop jar target/Test-1.0-SNAPSHOT.jar javaPath运行hadoop程序hadoop ...
分类:
其他好文 时间:
2014-06-22 23:10:26
阅读次数:
237
安装的时候首先出现
hfs: summary table not allowed on FS withblock size of 2048
错误,然后就是
hfs: could not initializc summary table forOSX Base System
错误。
一开始也不知道是怎么回事,后来在yandex上搜索中找到一篇帖子,它说这是CPU的问题。Mac OS X 10.9不能识别特有的CPU格式,只能识别一部分。于是呢,按照帖子中的做法,首先找到Virtual Box的位置,用命令符的...
分类:
其他好文 时间:
2014-06-22 18:43:15
阅读次数:
268
接触fs那么久,有必要再记录一下。
上一篇介绍了fs拓扑描述文件dot的格式,今天要介绍fs输出文件的格式。
举个例子,以下是d节点输出文件的一行记录,也就是一条流经过d的记录。
textexport d 1.035154 1.035154 1.175314 10.1.1.2:1001->10.5.0.1:2001 tcp 0x0 b:172.16.0.70 4 1722 FSA
其中每个...
分类:
其他好文 时间:
2014-06-22 16:16:08
阅读次数:
187
hadoop 0.18文档(详细介绍Hadoop,MapReduce,FS Shell,Streaming等)hadoop资料汇总(XX搜集的,还没看)streaming(非java程序员的福音)Hadoop Streaming编程实例Hadoop Streaming编程Hadoop Streami...
分类:
其他好文 时间:
2014-06-20 18:33:43
阅读次数:
160
import java.io.File;import java.io.IOException; import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.Path;import org.apache.hadoop....
分类:
其他好文 时间:
2014-06-18 20:12:01
阅读次数:
254
使用解析器
使用解析器是非常简单,可以使用它自己的词法分析器,但是,用fsyacc.exe 产生的解析器总是要求词法分析器。在这一小节,我们将讨论如何使用自己的词法分析器,以及与解析器联合。
警告
记住F# 编译器不能直接使用.fsl 和 .fsy 文件,需要用fslex.exe 和 fsyacc.exe 进行编译,创建.fs 文件,然后才能使用。通常,使用预编译事件实现,它在 ...
分类:
其他好文 时间:
2014-06-16 21:59:41
阅读次数:
247
未改偏移量之前
using (FileStream fs = new FileStream(txtFilePathRead.Text, FileMode.Open))
{
//创建一个容量4M的数组
byte[] byteData = new byte[1024 * 1024 * 4];...
分类:
其他好文 时间:
2014-06-14 14:13:27
阅读次数:
216
1、pig安装 1)解压,重命名、设置环境变量,同hadoop 2)编辑文件$PIG_HOME/conf/pig.properties,增加两行如下内容 fs.default.name=hdfs://hadoop:9000 mapred.job.tracker=hadoop:9001...
分类:
其他好文 时间:
2014-06-14 11:40:40
阅读次数:
205
首先编写最底层的请求处理程序requestHandler.js,首先要通过npm在项目所在的目录安装formidable,通过语句:npm install
formidable安装,然后代码如下:var querystring = require("querystring");var fs = re...
分类:
Web程序 时间:
2014-06-12 16:44:12
阅读次数:
293