每年的双11之前,也是MaxCompute各种乾坤大挪移落定的时候,因为双11就是各种大折腾项目的自然deadline。在今年双11之前,一路向北迁移和在离线混部项目,将杭州集群除蚂蚁外整体迁移到张北,涉及了绝大部分的业务project、数据存储和计算任务,为今年双十一大数据计算服务的保障带来了挑战。
分类:
其他好文 时间:
2018-12-06 17:48:52
阅读次数:
144
一、八年双十一,造就国内最大最专业HBase技术团队 阿里巴巴集团早在2010开始研究并把HBase投入生产环境使用,从最初的淘宝历史交易记录,到蚂蚁安全风控数据存储。持续8年的投入,历经8年双十一锻炼。4个PMC,6个committer,造就了国内最大最专业的HBase技术团队,其中HBase内核 ...
分类:
其他好文 时间:
2018-12-06 12:12:45
阅读次数:
226
Cloudera版本(Cloudera’s Distribution Including Apache Hadoop,简称“CDH”),基于Web的用户界面,支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Spark、 Hbase、Zookeeper、Sqoop,简化了大数据 ...
分类:
其他好文 时间:
2018-12-05 22:26:39
阅读次数:
290
目录 前言 一、 搭建环境 1.1集群规划 二、 集群的相关配置 2.1 新建用户hadoop 2.2 更改主机名 2.3 主机和IP做相关映射 2.4 SSH免密码登录 2.5 时间配置 2.6 整体安装目录安排 三、 Hadoop HA环境搭建 3.1 JDK配置 3.2 安装配置Zookeep ...
分类:
其他好文 时间:
2018-12-05 18:33:41
阅读次数:
234
在CDH5.14.4中安装StreamSets与案例运行标签(空格分隔):大数据平台构建一:Streamset简介与系统环境介绍二:安装软件准备三:在CDH5.14.4集成使用StreamSets四:streamsets基本使用案例运行一:Streamset简介与系统环境介绍1.1:StreamSet简介StreamSets由Informatica前首席产品官GirishPancha和Cloude
分类:
其他好文 时间:
2018-11-24 19:46:59
阅读次数:
856
大数据技术时代,企业争相数字化转型,任何成功项目的背后,离不开数据平台的支撑,更别说2135亿的大项目,这背后的数据平台要多健壮,多安全,多稳定?
分类:
其他好文 时间:
2018-11-23 17:28:17
阅读次数:
237
变啦是一个专注于“健康减脂”“科学抗衰”两大领域的专业品牌。变啦凭借强大的专家团队及大数据平台,为客户制定全面而个性的解决方案,提供科学专业的服务、产品和技术。目前,已在63多个国家赢得超过500万用户的认可和信赖。从变啦的发展历程中减脂科技的发展依稀可见:早在2016年12月份,华尔街归国博士林伟华先生主导国内领先的智能健康服务平台—变啦APP正式上线。在发展的几年时间里,变啦做到了从不言弃,不
分类:
其他好文 时间:
2018-11-19 20:29:23
阅读次数:
180
技术最终为业务服务,没必要一定要追求先进性,各个企业应根据自己的实际情况去选择自己的技术路径。
分类:
其他好文 时间:
2018-11-18 23:43:04
阅读次数:
238
这本书由宋立桓老师和陈建平老师共同合作,本书的切入点明确而清晰,从Hadoop生态明星Cloudera入手,单刀直入逐步引出各类大数据基础和核心应用框架。全书系统介绍了大数据的相关知识,全书共十八章(宋立桓老师撰写第一章到第十二章、陈建平撰写第十三章到第十八章),从大数据概述、Clouderahadoop平台的安装部署、并对大数据hadoop组件分别进行介绍,包括HDFS分布式文件系统、MapRe
分类:
其他好文 时间:
2018-11-15 00:19:59
阅读次数:
154
这本书由宋立桓老师和陈建平老师共同合作,本书的切入点明确而清晰,从Hadoop生态明星Cloudera入手,单刀直入逐步引出各类大数据基础和核心应用框架。全书系统介绍了大数据的相关知识,全书共十八章(宋立桓老师撰写第一章到第十二章、陈建平撰写第十三章到第十八章),从大数据概述、Clouderahadoop平台的安装部署、并对大数据hadoop组件分别进行介绍,包括HDFS分布式文件系统、MapRe
分类:
其他好文 时间:
2018-11-14 21:00:22
阅读次数:
179