快刀初试:Spark GraphX在淘宝的实践作者:明风(本文由团队中梧苇和我一起撰写,并由团队中的林岳,岩岫,世仪等多人Review,发表于程序员的8月刊,由于篇幅原因,略作删减,本文为完整版) 对于网络科学而言,世间万物都可以抽象成点,而事物之间的关系都可以抽象成边,并根据不同的应用场景,...
分类:
其他好文 时间:
2014-08-13 22:20:27
阅读次数:
824
spark版本:spark-1.0.2-bin-hadoop2.tgz下载链接:http://www.apache.org/dist/spark/spark-1.0.2/Scala版本:scala-2.10.4.tgz下载链接:http://www.scala-lang.org/files/arch...
分类:
其他好文 时间:
2014-08-13 17:48:06
阅读次数:
156
安装Java1.打开终端,建立新目录“/usr/lib/java”,如下图所示:2.把下载的JDK文件移到刚刚创建的“/usr/lib/java”中,如下图所示3.解压JDK文件,如下图所示:解压完成的文件目录如下图所示:4.修改环境变量:进入如下图所示的配置文件中:按下“i”进入INSERT模式,...
分类:
其他好文 时间:
2014-08-13 12:30:46
阅读次数:
211
设计应用的一个方面是规划HTTP请求的URL规范,超链接,HTTP表单以及可能的公用API接口。在Play这是通过路由配置,然后在控制器中实现相应的接口。Play应用中的路由配置可以Controller类构成了MVC框架中的控制层,如下图所示:在Play应用中Controller为定义了HTTP接口的Scala类,而你的路由配置决定了给定的HTTP请求调用哪个Controller中定义的方法,这些...
分类:
Web程序 时间:
2014-08-13 10:33:35
阅读次数:
217
学习使用AKKA 断断续续有一年了。目前还是习惯用java来写akka下面的程序。对于原生的scala还是没有时间和兴趣去学习它。 毕竟学习一门语言需要兴趣和时间的。
AKKA学习资源还是不算丰富。 看过最多的就是官方的编程手册,还有就是AKKA Essentials 这两本。 自己动手写的程序还不算多,也放在github上面。 另外,在akka编译配置、升级版本上,以及部署多台服务...
分类:
其他好文 时间:
2014-08-13 03:36:35
阅读次数:
246
Spark1.0.x入门指南 1 节点说明 ? IP Role 192.168.1.111 ActiveNameNode 192.168.1.112 StandbyNameNode,Master,Worker 192.168.1.113 DataNode,Master,Worker 192.168.1.114 DataNode,Worker HDFS集群和Spark...
分类:
其他好文 时间:
2014-08-12 17:45:25
阅读次数:
278
为了简化权限等问题,下面我们以root用户的身份登录和使用Ubuntu系统,而Ubuntu在默认情况下并没有开启root用户,这需要我们做如下设置:sudo -s进入 root用户权限模式vim/etc/lightdm/lightdm.conf[SeatDefaults]greeter-sessio...
分类:
其他好文 时间:
2014-08-12 12:52:14
阅读次数:
230
13年初整理的一个关于MapReduce的简单介绍和总结,希望对大家有所帮助,同学欢迎交流JVM、Spark、Hadoop等技术。...
分类:
其他好文 时间:
2014-08-11 21:29:42
阅读次数:
251
通过一个简明的Demo程序来说明如何使用scala中的PackratParsers
分类:
其他好文 时间:
2014-08-11 14:50:32
阅读次数:
214