首页
Web开发
Windows程序
编程语言
数据库
移动开发
系统相关
微信
其他好文
会员
首页
>
其他好文
> 详细
5. yarn
时间:
2015-06-15 12:58:59
阅读:
121
评论:
0
收藏:
0
[点我收藏+]
标签:
一. yarn产生背景:
1.
mapreduce 1.0的问题:
1)JobTracker性能问题 , 2)JobTracker单点问题 ,3)只支持mapreduce一个计算框架
2. 资源利用率:
3. 运维成本与数据共享:
运维成本
如果采用“一个框架一个集群”的模式,则可能需
要多个管理员管理这些集群,进而增加运维成本,
而
共享模式
通常需要少数管理员即可完成多个框架
的统一管理
数据共享
随着数据量的暴增,跨集群间的数据移动不仅需花
费更长的时间,且硬件成本也会大大增加,而
共享
集群模式
可让多种框架共享数据和硬件资源,将大
大减小数据移动带来的成本
4. 总结:
二. yarn基本架构:
ResourceMannager
整个集群只有一个(
起ha,有backup
),负责集群资源的统一管理和调度
功能:
处理客户端请求
启动/监控ApplicationMaster
监控NodeManager
资源分配与调度
NodeManager
整个集群有多个,负责单节点资源管理和使用
功能:
单个节点上的资源管理和任务管理
处理来自ResourceManager的命令
处理来自ApplicationMaster的命令
ApplicationMaster
每个应用有一个,负责应用程序的管理
功能:
数据切分
为应用程序申请资源,并进一步分配给内部任务
任务监控与容错
Container
对任务运行环境的抽象
描述一系列信息 :
任务运行资源(节点、内存、CPU)
任务启动命令
任务运行环境
三. yarn运行过程:
来自为知笔记(Wiz)
5. yarn
标签:
原文地址:http://www.cnblogs.com/51runsky/p/7cd2023db55ecd4e5c3de43315cd2bb7.html
踩
(
0
)
赞
(
0
)
举报
评论
一句话评论(
0
)
登录后才能评论!
分享档案
更多>
2021年07月29日 (22)
2021年07月28日 (40)
2021年07月27日 (32)
2021年07月26日 (79)
2021年07月23日 (29)
2021年07月22日 (30)
2021年07月21日 (42)
2021年07月20日 (16)
2021年07月19日 (90)
2021年07月16日 (35)
周排行
更多
分布式事务
2021-07-29
OpenStack云平台命令行登录账户
2021-07-29
getLastRowNum()与getLastCellNum()/getPhysicalNumberOfRows()与getPhysicalNumberOfCells()
2021-07-29
【K8s概念】CSI 卷克隆
2021-07-29
vue3.0使用ant-design-vue进行按需加载原来这么简单
2021-07-29
stack栈
2021-07-29
抽奖动画 - 大转盘抽奖
2021-07-29
PPT写作技巧
2021-07-29
003-核心技术-IO模型-NIO-基于NIO群聊示例
2021-07-29
Bootstrap组件2
2021-07-29
友情链接
兰亭集智
国之画
百度统计
站长统计
阿里云
chrome插件
新版天听网
关于我们
-
联系我们
-
留言反馈
© 2014
mamicode.com
版权所有 联系我们:gaon5@hotmail.com
迷上了代码!