码迷,mamicode.com
首页 > 其他好文 > 详细

spark executor 数量

时间:2018-01-04 16:28:57      阅读:153      评论:0      收藏:0      [点我收藏+]

标签:exe   pre   res   body   spark   size   htm   com   .exe   

  一.指定spark executor 数量的公式

executor 数量 = spark.cores.max/spark.executor.cores
spark.cores.max 是指你的spark程序需要的总核数
spark.executor.cores 是指每个executor需要的核数


二. 命令示例
spark-submit --class com.cjh.test.WordCount --conf spark.executor.memory=800m --conf spark.executor.cores=2 --conf spark.cores.max=6 my.jar

  

spark executor 数量

标签:exe   pre   res   body   spark   size   htm   com   .exe   

原文地址:https://www.cnblogs.com/chengjunhao/p/8193374.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!