更多代码请见:https://github.com/xubo245/SparkLearning
1.环境
hadoop 2.6.0
spark 1.5.2
java 1.7
2.下载:
https://github.com/Alluxio/alluxio/archive/v0.7.1.tar.gz
3.编译:
mvn clean package -Djava....
分类:
其他好文 时间:
2016-05-06 13:00:38
阅读次数:
280
在Spark的RDD中引入过lineage这一概念。指的是RDD之间的依赖。而Alluxio则使用lineage来表示文件之间的依赖。在代码层面,指的是fileID之间的依赖。 代码中的注释指出: 有了lineage之后,如何使用lineage来实现文件的容错呢? 在源码中,有2个关键类解决了这个问 ...
分类:
其他好文 时间:
2016-03-29 23:38:00
阅读次数:
664
一、介绍AlluxioTachyon正式改名为alluxio,并发布v1.0.0版本,alluxio是内存高速虚拟分布式存储系统。Alluxio是一个以内存为中心的虚拟分布式存储系统,统一数据访问和桥梁的计算框架和底层存储系统。应用程序只需要alluxio就可以把访问存储在任何底层存储系统的数据连接。此..
分类:
其他好文 时间:
2016-03-23 20:25:34
阅读次数:
999