码迷,mamicode.com
首页 >  
搜索关键字:scala spark    ( 10387个结果
【Spark亚太研究院系列丛书】Spark实战高手之路-第3章Spark架构设计与编程模型第1节:为什么Spark是大数据必然的现在和未来?(1)
一、MapReduce已死,Spark称霸由于Hadoop的MapReduce高延迟的死穴,导致Hadoop无力处理很多对时间有要求的场景,人们对其批评越来越多,Hadoop无力改变现在而导致正在死亡。正如任何领域一样,死亡是一个过程,Hadoop正在示例这样的一个过程,Hadoop的死亡过程在20...
分类:其他好文   时间:2014-12-12 23:31:32    阅读次数:194
Playframework2的Security使用
利用play.api.mvc.Security的机制,实现一个trait,用于扩展controller的用户认证机制。 该trait需要实现的方法包括: 1. def username(request: RequestHeader) = request.session.get("email") 2. def onUnauthorized(request: RequestHeade...
分类:其他好文   时间:2014-12-12 20:57:31    阅读次数:152
【Spark亚太研究院系列丛书】Spark实战高手之路-第2章动手实战Scala第3小节(2)
3,动手实战Scala中的泛型 泛型泛型类和泛型方法,也就是我们实例化类或者调用方法的时候可以指定其类型,由于Scala的泛型和Java的泛型是一致的,这里不再赘述。 ? ? 4,动手实战Scala中的隐式转换、隐式参数、...
分类:其他好文   时间:2014-12-12 00:07:24    阅读次数:215
【Spark亚太研究院系列丛书】Spark实战高手之路-第2章动手实战Scala第3小节:动手实战Scala函数式编程(2)
3,动手实战Scala中的泛型 泛型泛型类和泛型方法,也就是我们实例化类或者调用方法的时候可以指定其类型,由于Scala的泛型和Java的泛型是一致的,这里不再赘述。4,动手实战Scala中的隐式转换、隐式参数、隐式类 隐式转换是很多人学习Scala的难点,这是Scala的精髓之一:下面看一下隐藏参...
分类:其他好文   时间:2014-12-11 23:55:35    阅读次数:230
hbase0.98.8源码编译(基于hadoop2.4.1)
上一篇介绍了hadoop2.4.1的编译过程,以及hive和spark的编译,这次简单介绍hbase的编译过程。hbase0.98.8默认使用hadoop2.2.0进行编译,笔者的hadoop环境是2.4.1版本,为避免包不一致引发的各种错误,需要对hbase进行重新编译。1、生成编译使用的pom文件修改$HBASE_HOME/pom.xm..
分类:其他好文   时间:2014-12-11 19:24:03    阅读次数:245
Scala编程问题集(01)
Scala编程问题集(01)By高焕堂洞庭国际智能硬件检测基地Q-01:如何使用Scala的Singleton机制来表达Class-level的数据。Answer:在面向对象编程(OOP,Object-OrientedProgramming)概念里,属性(Attribute)和函数(Function)都分为两个不同级别(Level)。例如,厦门的科技谷(厦门)公..
分类:其他好文   时间:2014-12-11 19:21:41    阅读次数:199
Spark的任务调度
本文尝试从源码层面梳理Spark在任务调度与资源分配上的做法。...
分类:其他好文   时间:2014-12-11 15:51:24    阅读次数:221
akka简单示例-2
手动敲了一遍计算pi的示例:http://www.gtan.com/akka_doc/intro/getting-started-first-scala.html有个笔误,花了半个小时定位。 1 [Torstani@sparkb5-i ~/akka_example/pi]$ cat src/Pi.s...
分类:其他好文   时间:2014-12-10 22:45:51    阅读次数:186
scala函数式编程
学习了一些scala的基础语法http://twitter.github.io/scala_school/zh_cn/index.html,尝试一下scala的函数式编程。用函数式编程如何实现:sum(f, a,b)=s = 0for i in [a, b] s+=f(i)return s这是命令....
分类:其他好文   时间:2014-12-10 21:05:00    阅读次数:185
akka简单示例
刚刚开始接触akka,网上找了2个简单示例,并在公司运营机器上尝试,踩了一些坑,在此记录。1. 本地hello world 1 [torstan@sparkb5-i ~/akka_example/hello_world]$ cat src/helloWorld.scala 2 package ou....
分类:其他好文   时间:2014-12-10 19:23:21    阅读次数:245
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!