码迷,mamicode.com
首页 > 移动开发 > 详细

YARN调度架构中的AppMaster

时间:2020-05-24 20:59:39      阅读:118      评论:0      收藏:0      [点我收藏+]

标签:false   机制   dispatch   检查   rac   play   hadoop   跟踪   nta   

YARN调度架构

技术图片

  • esourceScheduler是YARN的调度器,负责Container的分配。
  • AsyncDispatcher是单线程的事件分发器,负责向调度器发送调度事件。
  • ResourceTrackerService是资源跟踪服务,主要负责接收处理NodeManager的心跳信息。
  • ApplicationMasterService是作业的RPC服务,主要负责接收处理作业的心跳信息。
  • AppMaster是作业的程序控制器,负责跟YARN交互获取/释放资源。

AppMaster

AppMaster是一个yarn任务运行时第一个由RM启动的container,然后负责整个任务的运行,包括container的申请、启动、kill、状态检查等。ApplicationMaster属于应用程序级,其实现不是由Yarn框架提供(历史原因,yarn提供了MapReduce的AppMaster的实现),需要用户自己实现AppMaster进程的具体实现。

参考

1万台 Hadoop 集群 YARN 的调优之路

yarn任务提交过程源码分析

Spark之Yarn Cluster运行机制

YARN调度架构中的AppMaster

标签:false   机制   dispatch   检查   rac   play   hadoop   跟踪   nta   

原文地址:https://www.cnblogs.com/bitbitbyte/p/12952339.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!