码迷,mamicode.com
首页 > 其他好文 > 详细

spark学习(五)

时间:2020-01-29 00:48:18      阅读:82      评论:0      收藏:0      [点我收藏+]

标签:进入   oca   yarn   img   cluster   sbt   mic   class   技术   

(一)进入spark-shell命令界面(默认使用scala的命令界面)

  1,如果进入了spark安装目录则使用、

  1,一台机器启动spark:./bin/spark-shell --master <master-url>命令可进入shell界面,master-url参数可为:local[*]使用逻辑CPU多线程启动,local[n],使用n个CPU线程启动

  2,集群下启动spark:spark://主机IP:7077(默认端口)

  3,在CLASSPATH中添加jar包:./bin/spark-shell --master local[4] --jars code.jar

  4,退出:(:quit)

 2,Yarn集群模式:

  yarn-client:客户端电脑不能关,调试阶段

  技术图片

  yarn-cluster:客户端电脑关了不影响,正常使用阶段

  技术图片

 

  3,sbt是一款Spark用来对scala编写程序进行打包的工具(没安装成功)

 

spark学习(五)

标签:进入   oca   yarn   img   cluster   sbt   mic   class   技术   

原文地址:https://www.cnblogs.com/lq13035130506/p/12239342.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!