”智慧公交”带给公众的不仅仅是对出行及乘车时间的把握,而是根本上的便利。
改变公交出行方式,提高公众生活的质量和水平,让“智慧”的更“智慧”,让便利的更便利!...
分类:
其他好文 时间:
2014-09-10 17:56:10
阅读次数:
227
“决胜云计算大数据时代”Spark亚太研究院100期公益大讲堂【第2期互动问答分享】Q1:新手学习spark如何入手才好?先学习Scala的内容,强烈推荐《快学Scala》;然后按照我们免费发布的“云计算分布式大数据Spark实战高手之路(共3本书)”循序渐进的学习即可,其中“云计算分布..
分类:
其他好文 时间:
2014-09-10 14:20:40
阅读次数:
211
决胜云计算大数据时代”Spark亚太研究院100期公益大讲堂【第3期互动问答分享】Q1:groupbykey是排好序的吗?分组排序怎么实现?groupByKey在一个由(K,V)对组成的数据集上调用,返回一个(K,Seq[V])对的数据集,所以是没有排序的;要想分组排序,首先要使用groupByKey完成分..
分类:
其他好文 时间:
2014-09-10 14:19:51
阅读次数:
259
前言对技术,我还是抱有敬畏之心的。Hadoop概述Hadoop是一个开源分布式云计算平台,基于Map/Reduce模型的,处理海量数据的离线分析工具。基于Java开发,建立在HDFS上,最早由Google提出,有兴趣的同学可以从Google三驾马车:GFS,mapreduce,Bigtable开始了...
分类:
其他好文 时间:
2014-09-10 13:52:40
阅读次数:
298
Docker是PaaS圈内开源的基于LXC的应用容器引擎,基于Go语言开发,遵从Apache2.0协议。
最近一年来,Docker在云计算方面的热度持续升温,社区等活跃度也持续走高,使得大家对于Docker普遍持有积极态度。
笔者在研究生期间,主要从事PaaS方面的研究与实践工作,具体的研究平台为开源的Cloud Foundry。最近Docker的火热,更是让自己处于对Docker的学习过程中,不能自拔。...
分类:
其他好文 时间:
2014-09-10 12:34:40
阅读次数:
242
启动并查看集群的状况
第一步:启动Hadoop集群,这个在第二讲中讲解的非常细致,在此不再赘述:
启动之后在Master这台机器上使用jps命令,可以看到如下进程信息:
在Slave1 和Slave2上使用jps会看到如下进程信息:
第二步:启动Spark集群
在Hadoop集群成功启动的基础上,启动Spark集群需要使用Spark的sbin...
分类:
其他好文 时间:
2014-09-10 10:55:20
阅读次数:
225
随着云计算技术的发展,跟传统的服务器上直接跑应用相比,服务器上运行虚机,虚机里面跑应用的场景已经越来越普遍。
这种情况下,网络往往成为最关键的性能瓶颈,特别是不同虚机之间的高速网络流量如何进行有效的交换。
要解决大流量交换的问题,基本上有两套简单思路,一个是软交换,即放在服务器里面,让软件来实现,典型的代表有各种虚拟交换的解决方案,例如OpenvSwitch。
另外一个是流量对服务器...
分类:
其他好文 时间:
2014-09-10 10:51:47
阅读次数:
168
在上文(http://blog.csdn.net/yeasy/article/details/39178187)中提到了虚机网络流量的接入交换问题。
本文来谈谈虚机跟服务器物理网卡的交互问题。
通常情况下,一个服务器上跑几十个虚机,对计算和网络的需求是很惊人的。前者促生了当下的多核技术发展,后者则不能简单的用多网卡来实现。
试想,每个虚机如果都需要10G的交换能力,服务器要配置几十块物理网卡...
分类:
其他好文 时间:
2014-09-10 10:50:40
阅读次数:
247
第12届北京国际图书节于前天落下帷幕,图书节结束前夕,“大数据时代内容产业的跨界创新峰会”在京举行。峰会上,国内首个新闻出版产业大数据应用联盟诞生。
峰会以“颠覆与再造——大数据对内容产业的深刻变革”和“跨界与突围——大数据对传统产业的价值重塑”为话题,深度解析了在移动互联网(http://www.csix.cn/)、物联网、大数据、云计算的时代背景下,新闻出版等内容产业如何积极拥抱先进技术...
分类:
其他好文 时间:
2014-09-10 09:40:40
阅读次数:
235
一、环境3台虚拟机,系统为centos,zookeeper版本为3.4.3ip与hostname分别为192.168.41.100/master,192.168.41.101/slave1,192.168.41.102/slave2二、安装1、解压下载到的apache-storm-0.9.2-incubating.zip#tarzvxfapache-storm-0.9.2-incubating.tar.gz-C/home/hadoop/2、..
分类:
其他好文 时间:
2014-09-10 02:45:10
阅读次数:
266