一、MapReduce已死,Spark称霸由于Hadoop的MapReduce高延迟的死穴,导致Hadoop无力处理很多对时间有要求的场景,人们对其批评越来越多,Hadoop无力改变现在而导致正在死亡。正如任何领域一样,死亡是一个过程,Hadoop正在示例这样的一个过程,Hadoop的死亡过程在20...
分类:
其他好文 时间:
2014-12-12 23:31:32
阅读次数:
194
利用play.api.mvc.Security的机制,实现一个trait,用于扩展controller的用户认证机制。
该trait需要实现的方法包括:
1. def username(request: RequestHeader) = request.session.get("email")
2. def onUnauthorized(request: RequestHeade...
分类:
其他好文 时间:
2014-12-12 20:57:31
阅读次数:
152
3,动手实战Scala中的泛型 泛型泛型类和泛型方法,也就是我们实例化类或者调用方法的时候可以指定其类型,由于Scala的泛型和Java的泛型是一致的,这里不再赘述。 ? ? 4,动手实战Scala中的隐式转换、隐式参数、...
分类:
其他好文 时间:
2014-12-12 00:07:24
阅读次数:
215
3,动手实战Scala中的泛型 泛型泛型类和泛型方法,也就是我们实例化类或者调用方法的时候可以指定其类型,由于Scala的泛型和Java的泛型是一致的,这里不再赘述。4,动手实战Scala中的隐式转换、隐式参数、隐式类 隐式转换是很多人学习Scala的难点,这是Scala的精髓之一:下面看一下隐藏参...
分类:
其他好文 时间:
2014-12-11 23:55:35
阅读次数:
230
上一篇介绍了hadoop2.4.1的编译过程,以及hive和spark的编译,这次简单介绍hbase的编译过程。hbase0.98.8默认使用hadoop2.2.0进行编译,笔者的hadoop环境是2.4.1版本,为避免包不一致引发的各种错误,需要对hbase进行重新编译。1、生成编译使用的pom文件修改$HBASE_HOME/pom.xm..
分类:
其他好文 时间:
2014-12-11 19:24:03
阅读次数:
245
Scala编程问题集(01)By高焕堂洞庭国际智能硬件检测基地Q-01:如何使用Scala的Singleton机制来表达Class-level的数据。Answer:在面向对象编程(OOP,Object-OrientedProgramming)概念里,属性(Attribute)和函数(Function)都分为两个不同级别(Level)。例如,厦门的科技谷(厦门)公..
分类:
其他好文 时间:
2014-12-11 19:21:41
阅读次数:
199
本文尝试从源码层面梳理Spark在任务调度与资源分配上的做法。...
分类:
其他好文 时间:
2014-12-11 15:51:24
阅读次数:
221
手动敲了一遍计算pi的示例:http://www.gtan.com/akka_doc/intro/getting-started-first-scala.html有个笔误,花了半个小时定位。 1 [Torstani@sparkb5-i ~/akka_example/pi]$ cat src/Pi.s...
分类:
其他好文 时间:
2014-12-10 22:45:51
阅读次数:
186
学习了一些scala的基础语法http://twitter.github.io/scala_school/zh_cn/index.html,尝试一下scala的函数式编程。用函数式编程如何实现:sum(f, a,b)=s = 0for i in [a, b] s+=f(i)return s这是命令....
分类:
其他好文 时间:
2014-12-10 21:05:00
阅读次数:
185
刚刚开始接触akka,网上找了2个简单示例,并在公司运营机器上尝试,踩了一些坑,在此记录。1. 本地hello world 1 [torstan@sparkb5-i ~/akka_example/hello_world]$ cat src/helloWorld.scala 2 package ou....
分类:
其他好文 时间:
2014-12-10 19:23:21
阅读次数:
245