码迷,mamicode.com
首页 > 其他好文 > 详细

Yarn架构

时间:2017-04-08 21:29:25      阅读:267      评论:0      收藏:0      [点我收藏+]

标签:处理   task   需要   res   告诉   实现   node   利用   基于   

jobtracker存在单点故障问题

jobtracker只支持mapreduce,计算框架不具有可扩展性

jobtracker是性能瓶颈

技术分享

 

yarn可以整合不同的计算框架,提高资源利用率

技术分享

技术分享

 yarn的基本架构

技术分享

yarn运行过程

技术分享

yarn容错性

Resource Manager 

存在单点故障

正在基于zookeeper实现HA

NodeManager

失败后,RM将失败任务告诉对应的AM,AM决定如何处理失败的任务。

Application Master

失败后,由RM负责重启

AM需要处理内部任务的容错问题

RMAppMaster会保存已经运行完成的Task,重启后无需重新运行

 

Yarn架构

标签:处理   task   需要   res   告诉   实现   node   利用   基于   

原文地址:http://www.cnblogs.com/fisherinbox/p/6682993.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!