spark版本:spark-1.0.2-bin-hadoop2.tgz下载链接:http://www.apache.org/dist/spark/spark-1.0.2/Scala版本:scala-2.10.4.tgz下载链接:http://www.scala-lang.org/files/arch...
分类:
其他好文 时间:
2014-08-13 17:48:06
阅读次数:
156
安装Java1.打开终端,建立新目录“/usr/lib/java”,如下图所示:2.把下载的JDK文件移到刚刚创建的“/usr/lib/java”中,如下图所示3.解压JDK文件,如下图所示:解压完成的文件目录如下图所示:4.修改环境变量:进入如下图所示的配置文件中:按下“i”进入INSERT模式,...
分类:
其他好文 时间:
2014-08-13 12:30:46
阅读次数:
211
Spark1.0.x入门指南 1 节点说明 ? IP Role 192.168.1.111 ActiveNameNode 192.168.1.112 StandbyNameNode,Master,Worker 192.168.1.113 DataNode,Master,Worker 192.168.1.114 DataNode,Worker HDFS集群和Spark...
分类:
其他好文 时间:
2014-08-12 17:45:25
阅读次数:
278
为了简化权限等问题,下面我们以root用户的身份登录和使用Ubuntu系统,而Ubuntu在默认情况下并没有开启root用户,这需要我们做如下设置:sudo -s进入 root用户权限模式vim/etc/lightdm/lightdm.conf[SeatDefaults]greeter-sessio...
分类:
其他好文 时间:
2014-08-12 12:52:14
阅读次数:
230
13年初整理的一个关于MapReduce的简单介绍和总结,希望对大家有所帮助,同学欢迎交流JVM、Spark、Hadoop等技术。...
分类:
其他好文 时间:
2014-08-11 21:29:42
阅读次数:
251
通过一个简明的Demo程序来说明如何使用scala中的PackratParsers
分类:
其他好文 时间:
2014-08-11 14:50:32
阅读次数:
214
底理解Spark,能够分为以下几个层次。1 Spark基础篇 1.1 Spark生态和安装部署 在安装过程中,理解其基本操作步骤。 安装部署 Spark安装简单介绍 Spark的源代码编译 Spark Standalone安装 Spark Standalone HA安装 ...
分类:
其他好文 时间:
2014-08-11 14:38:42
阅读次数:
247
加上两个下划线变量或者方法变为私有。 >>> class Bird: ... __song = "spark" ... def sing(self): ... return self.__song ... >>> b = Bird() >>> b.sing() 'spark' ...
分类:
编程语言 时间:
2014-08-10 18:12:40
阅读次数:
284
Spark特别适用于多次操作特定的数据,分mem-only和mem & disk。其中mem-only:效率高,但占用大量的内存,成本很高;mem
& disk:内存用完后,会自动向磁盘迁移,解决了内存不足的问题,却带来了数据的置换的消费。Spark常见的调优工具有nman、Jmeter和Jprofile,以下是Spark调优的一个实例分析:
1、场景:精确客户群
对一个容量为300g的客...
分类:
其他好文 时间:
2014-08-09 23:19:39
阅读次数:
301
5个提案的14个开题报告,涉及数据可视化实践、社交云电视模型、Spark上流式机器学习算法实现、基于云存储的Linux系统增强服务和网络拓扑距离的高效KNN查询。...
分类:
其他好文 时间:
2014-08-07 18:58:10
阅读次数:
306