码迷,mamicode.com
首页 > 其他好文 > 详细

cdh---yarn资源

时间:2018-12-19 12:59:34      阅读:168      评论:0      收藏:0      [点我收藏+]

标签:developer   font   配置   info   bubuko   source   申请   节点   --   

1.修改yarn每个节点的内存大小

技术分享图片

下图yarn是各个节点内存的大小

技术分享图片

2.对yarn这些资源配置解释

yarn.nodemanager.resource.memory-mb
表示该节点上YARN可使用的物理内存总量,默认是8192(MB),注意,如果你的节点内存资源不够8GB,则需要调减小这个值,而YARN不会智能的探测节点的物理内存总量。
yarn.nodemanager.vmem-pmem-ratio
任务每使用1MB物理内存,最多可使用虚拟内存量,默认是2.1。
yarn.nodemanager.pmem-check-enabled
是否启动一个线程检查每个任务正使用的物理内存量,如果任务超出分配值,则直接将其杀掉,默认是true。
yarn.nodemanager.vmem-check-enabled
是否启动一个线程检查每个任务正使用的虚拟内存量,如果任务超出分配值,则直接将其杀掉,默认是true。
yarn.scheduler.minimum-allocation-mb
单个任务可申请的最少物理内存量,默认是1024(MB),如果一个任务申请的物理内存量少于该值,则该对应的值改为这个数。
yarn.scheduler.maximum-allocation-mb
单个任务可申请的最多物理内存量,默认是8192(MB)。
3.定时分配yarn资源池大小

这里有详细的操作:https://cloud.tencent.com/developer/article/1349452

技术分享图片

 

cdh---yarn资源

标签:developer   font   配置   info   bubuko   source   申请   节点   --   

原文地址:https://www.cnblogs.com/kaiwen03/p/10142137.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!