Hadoop,HBase,Storm,Spark到底是什么?
Hadoop=HDFS+Hive+Pig+......
分类:
其他好文 时间:
2014-12-09 17:45:22
阅读次数:
183
pig支持的类型转换(cast)
Pig Latin supports casts as shown in this table.
from / to
bag
tuple
map
int
long
float
double
chararray
bytearray
bool...
分类:
其他好文 时间:
2014-12-09 15:42:43
阅读次数:
264
引用链接:《FlappyPig》被高手破解,代码分析前两天看到这篇文章,有一种IOCCC的风格.忍不住就做了下面的分析,不足之处希望有高人不吝赐教,先在此谢过.很可惜,是自动生成的.不过还是有很多非常值得学习的地方._=~[];//-1;
/*利用空数组和弱类型语言特性按位取反的来,忽略类型js..
分类:
移动开发 时间:
2014-12-04 06:39:41
阅读次数:
197
Hadoop家族系列文章, 主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa,新增加的项目包括,YARN, Hcatalog, Oozie, Cassandra...
分类:
其他好文 时间:
2014-11-26 14:09:05
阅读次数:
352
任务目标:目标一:每名学生被多少位老师教过方法一:先DISTINCT,在计数-DISTINCT能偶对所有数据去重方法二:先分组-FOREACH嵌套-使用DISTINCT首先创建一份数据源文件[hadoop@hadoop1~]$catscore.txt
James,Network,Tiger,100
James,Database,Tiger,99
James,PDE,Yao,95
Vincent,Ne..
分类:
其他好文 时间:
2014-11-26 06:49:24
阅读次数:
201
Pig环境安装
pig的安装非常简单,将pig-0.14.0.tar.gz解压到合适的目录下
tar -zxvf pig-0.14.0.tar.gz
修改环境变量:
#pig
export PIG_HOME=/usr/local/cloud/pig-0.11.1/pig-0.11.1
export PATH=.:$PIG_HOME/bin:$PATH
export PIG_CLASSP...
分类:
其他好文 时间:
2014-11-25 00:17:55
阅读次数:
284
一句话,Hive 开发比 Pig快多了...从hdfs读取数据:Hive: CREATE EXTRENAL TABLE IF NOT EXIST (domain string, num int) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' loc...
分类:
其他好文 时间:
2014-11-20 13:27:34
阅读次数:
174
STORM与HADOOP的比较对于一堆时刻在增长的数据,如果要统计,可以采取什么方法呢?等数据增长到一定程度的时候,跑一个统计程序进行统计。适用于实时性要求不高的场景。如将数据导到HDFS,再运行一个MAP REDUCE JOB。如果实时性要求高的,上面的方法就不行了。因此就带来第二种方法。在数据每...
分类:
其他好文 时间:
2014-11-16 21:24:49
阅读次数:
223
pig 的chararry类型可能是按字段,逐个字段进行比较。
element_id 是chararray类型,
语句:
no_app_category_mapping = filter no_element_id by element_id == '' or element_id is null or element_id == '0' or element_id >='14'...
分类:
其他好文 时间:
2014-11-14 15:44:55
阅读次数:
264