内容:1、Spark天堂之门;2、SparkContext使用案例鉴赏;3、SparkContext内幕;4、SparkContext源码解密;SparkContext是编写任意Spark程序的第一个对象,用SparkConf为传入的参数==========Spark天堂之门:SparkContext!!!============1、Spark程序在运行的时候分为Driver..
分类:
其他好文 时间:
2016-02-21 06:48:27
阅读次数:
1031
内容:1、map、filter、flatmap等操作回顾;2、reduceBykey、groupBykey;3、jion、cogroug;算子共同特点:都是最常用的算子,构建复杂算法的基石,都是lazy级别的,不属于action创建SparkContext是Spark的起点,只有创建SparkContext,才能创建RDD==========map============..
分类:
其他好文 时间:
2016-02-08 17:31:39
阅读次数:
311
大数据未来几年发展的重点方向,大数据战略已经在十八届五中全会上作为重点战略方向,中国在大数据方面才刚刚起步,但是在美国已经产生了上千亿的市场价值。举个例子,美国通用公司是一个生产飞机发动机的一个公司,这家公司在飞机发动机的每一个零部件上都安装了传感器,这些传感器在飞机发动机运作的同时不断的把发动机状...
分类:
其他好文 时间:
2015-11-25 10:11:34
阅读次数:
210
接触大数据有几年,以前一直都是对hadoop的使用。相比于日新月异的前端技术,我还是比较喜欢大数据--这个已经被热炒多年的课题,也相信从事大数据方面的技术研究是IT从业者的一条光明坦途。 2010年hadoop开始进入我的视野, 不断自学,使用,感谢hadoop国内还是有很多书籍。去年开始各大...
分类:
其他好文 时间:
2015-11-16 00:36:37
阅读次数:
385
DT大数据梦工厂免费在百度 网盘分享的大数据视频:1,《Scala深入浅出实战经典》http://pan.baidu.com/s/1pJnAUr52,《Spark纯实战公益大讲坛》http://pan.baidu.com/s/1sLeVk3,《Docker公益大讲坛》http://pan.baidu...
分类:
其他好文 时间:
2015-10-19 07:02:39
阅读次数:
179
近年来,随着互联网科技日新月异,为各行各业带来了全新的商业契机。尤其是自李克强总理在政府工作报告中正式提出互联网+后,推进了各行业进军互联网的脚步,而在最近几年里一直颇受关注的3D打印技术自然而然也搭...
分类:
其他好文 时间:
2015-10-16 10:15:10
阅读次数:
879
云计算在我们的字典里早已烂熟于心。近两年,谈论云计算的人越来越多,比如百度的李彦宏就非常支持,各地政府也投入了大量的物力和财力,云计算与数据中心的基地如雨后春笋、瞬间拔地而起。但是创新梦工厂的李...
分类:
其他好文 时间:
2015-10-12 12:54:36
阅读次数:
181
王家林亲授《DT大数据梦工厂》大数据实战视频 Scala 深入浅出实战经典(1-97讲)完整视频、PPT、代码下载:百度云盘:http://pan.baidu.com/s/1c0noOt6 腾讯微云:http://url.cn/TnGbdC 360云盘:http://yunpan.cn/cQ4c2U...
分类:
其他好文 时间:
2015-09-12 21:44:10
阅读次数:
149
SBT的Console是交互的,能打包编译工程。DT大数据梦工厂微信公众账号:DT_Spark。DT大数据梦工厂的微信公众号是DT_Spark,每天都会有大数据实战视频发布,请您持续学习。王家林DT大数据梦工厂scala的所有视频、PPT和代码在百度云盘的链接:http://pan.baidu.com/share/home?uk=4..
分类:
编程语言 时间:
2015-09-12 08:30:20
阅读次数:
267
打包成jar包的方式:File->Projectstructure->Artfact->点+->JAR->Frommoduleswithdependencies...->选择module->可指定Mainclass->点击OKDT大数据梦工厂微信公众账号:DT_Spark。DT大数据梦工厂的微信公众号是DT_Spark,每天都会有大数据实战视频发布..
分类:
其他好文 时间:
2015-09-12 08:29:13
阅读次数:
266