1.7 Spark Web 界面
每一个SparkContext发布一个web界面,默认端口是4040,它显示了应用程序的有用信息。这包括:
Ø 一系列的调度阶段和任务
Ø 对于RDD大小和内存使用的总结
Ø 环境信息
Ø 运行的执行器(executor)的信息
你可以通过浏览器访问http://:4040,当然,你必去先启动SparkContext。比如命令:./bin/sp...
分类:
Web程序 时间:
2014-07-28 16:35:43
阅读次数:
1584
Apache Spark MLlib是Apache Spark体系中重要的一块拼图:提供了机器学习的模块。不过,目前对此网上介绍的文章不是很多。拿KMeans来说,网上有些文章提供了一些示例程序,而这些程序基本和Apache Spark 官网上的程序片断类似:在得到训练模型后,几乎都没有展示如何使用该模型、程序执行流程、结果展示以及举例测试数据等部分。笔者根据Apache Spark官网上的程序片断,写了一个完整的调用MLlib KMeans库的测试程序,并成功在Spark 1.0 + Yarn 2.2 的...
分类:
其他好文 时间:
2014-07-28 00:01:39
阅读次数:
343
Spark SQL 中Catalyst的核心优化器Optimizer源码剖析...
分类:
数据库 时间:
2014-07-26 02:17:36
阅读次数:
390
Tigase是一种XMPP服务器,可以作为采用XMPP协议的各种IM(Instant Messeging)工具(如Pandion、Spark等)的服务器。在Linux环境下安装Tigase的步骤如下:(1)下载安装文件到https://projects.tigase.org/projects/tig...
分类:
系统相关 时间:
2014-07-25 18:58:52
阅读次数:
733
见明知意的文件名,还用我来介绍??可以说我闲的蛋疼,反正我已经做了记录了,哈哈 ? sbin目录下的脚本文件 slaves.sh???????????????在所有定义在${SPARK_CONF_DIR}/slaves的机器上执行一个...
分类:
其他好文 时间:
2014-07-25 00:07:34
阅读次数:
241
Spark SQL Catalyst的核心类库TreeNode详解,配有实例,图文并茂。...
分类:
数据库 时间:
2014-07-24 23:37:23
阅读次数:
895
各位朋友,大家好,我是秦元培,欢迎大家关注我的博客,我的博客地址是blog.csdn.net/qinyuanpei。在研究了Unity3D Mecanim动画系统的重定向特性后,今天我们继续来探索Mecanim动画系统更多的特性吧。今天博主想和大家分享的是ACT游戏中的三连击效果的实现,由于Unity3D目前存在Animation和Animator两种类型的动画组件,因此本文将分别讲这两种类型的动...
分类:
其他好文 时间:
2014-07-24 23:19:03
阅读次数:
304
* Flex开发中可用两种语言1.MXML2.ActionScript* Flex中使用两个组件集1.MX (mx.*) 早期的Flex版本用到的组件集2.Spark (spark.*) Flex4及以后的版本用到的组件集。Spark比MX组件有更多皮肤外观及其它方面的优点。它们有相同的组件(如按钮...
分类:
其他好文 时间:
2014-07-24 22:02:42
阅读次数:
292
ShuffleMapTask的计算结果保存在哪,随后Stage中的task又是如何知道从哪里去读取的呢,reduceByKey(_ + _)中的combine计算发生在什么地方,本文将为你一一揭晓。
分类:
其他好文 时间:
2014-07-24 14:41:35
阅读次数:
308