当前位置: 首页 > news >正文

spark-submit工具参数说明

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

执行时需要传入的参数说明

Usage: spark-submit [options] <app jar | python file> [app options]

参数名称

含义

--master MASTER_URL

可以是spark://host:port, mesos://host:port, yarn,  yarn-cluster,yarn-client, local

--deploy-mode DEPLOY_MODE

Driver程序运行的地方,client或者cluster

--class CLASS_NAME

主类名称,含包名

--name NAME

Application名称

--jars JARS

Driver依赖的第三方jar包

--py-files PY_FILES

用逗号隔开的放置在Python应用程序PYTHONPATH上的.zip,  .egg, .py文件列表

--files FILES

用逗号隔开的要放置在每个executor工作目录的文件列表

--properties-file FILE

设置应用程序属性的文件路径,默认是conf/spark-defaults.conf

--driver-memory MEM

Driver程序使用内存大小

--driver-java-options

--driver-library-path

Driver程序的库路径

--driver-class-path

Driver程序的类路径

--executor-memory MEM

executor内存大小,默认1G

--driver-cores NUM

Driver程序的使用CPU个数,仅限于Spark Alone模式

--supervise

失败后是否重启Driver,仅限于Spark  Alone模式

--total-executor-cores NUM

executor使用的总核数,仅限于Spark Alone、Spark on Mesos模式

--executor-cores NUM

每个executor使用的内核数,默认为1,仅限于Spark on Yarn模式

--queue QUEUE_NAME

提交应用程序给哪个YARN的队列,默认是default队列,仅限于Spark on Yarn模式

--num-executors NUM

启动的executor数量,默认是2个,仅限于Spark on Yarn模式

--archives ARCHIVES

仅限于Spark on Yarn模式





转载于:https://my.oschina.net/u/140462/blog/519409

相关文章:

  • JS调用PageMethods
  • String与string的区别(注意大小写)
  • javascript-按圆形排列DIV元素(二)---- 运动
  • LoadRunner之自定义HTTP请求
  • Shell脚本之sed篇
  • DFS建立之之FRSM磁盘配额与文件过滤
  • JavaScript文本框统计字数
  • 脚本编程基础知识点总结
  • LoadRunner检查点
  • 05-Windows Server 2012 新特性 ---- 集成的ISCSI网络存储
  • 观察坐标系
  • Windows程序员需要学什么
  • 统计难题(trie树)
  • 爱上MVC3系列~Razor页面中的共享namespace不起作用了(解决自定义扩展方法不能识别的问题)...
  • js或jquery实现页面打印可局部打印
  • 345-反转字符串中的元音字母
  • Android组件 - 收藏集 - 掘金
  • avalon2.2的VM生成过程
  • HTTP中GET与POST的区别 99%的错误认识
  • Intervention/image 图片处理扩展包的安装和使用
  • Java IO学习笔记一
  • JDK9: 集成 Jshell 和 Maven 项目.
  • mysql innodb 索引使用指南
  • Objective-C 中关联引用的概念
  • vue 配置sass、scss全局变量
  • 百度小程序遇到的问题
  • 前端之Sass/Scss实战笔记
  • 使用 Node.js 的 nodemailer 模块发送邮件(支持 QQ、163 等、支持附件)
  • 微信小程序设置上一页数据
  • 项目管理碎碎念系列之一:干系人管理
  • 职业生涯 一个六年开发经验的女程序员的心声。
  • ​LeetCode解法汇总2304. 网格中的最小路径代价
  • ​软考-高级-系统架构设计师教程(清华第2版)【第1章-绪论-思维导图】​
  • #我与Java虚拟机的故事#连载05:Java虚拟机的修炼之道
  • #我与Java虚拟机的故事#连载18:JAVA成长之路
  • (DFS + 剪枝)【洛谷P1731】 [NOI1999] 生日蛋糕
  • (poj1.3.2)1791(构造法模拟)
  • (Redis使用系列) Springboot 使用redis实现接口幂等性拦截 十一
  • (八)Docker网络跨主机通讯vxlan和vlan
  • (顶刊)一个基于分类代理模型的超多目标优化算法
  • (附源码)ssm智慧社区管理系统 毕业设计 101635
  • (附源码)基于SSM多源异构数据关联技术构建智能校园-计算机毕设 64366
  • (附源码)计算机毕业设计SSM智能化管理的仓库管理
  • (机器学习的矩阵)(向量、矩阵与多元线性回归)
  • (没学懂,待填坑)【动态规划】数位动态规划
  • (十二)springboot实战——SSE服务推送事件案例实现
  • (一)基于IDEA的JAVA基础10
  • (原)Matlab的svmtrain和svmclassify
  • (转)Android学习笔记 --- android任务栈和启动模式
  • (转)JAVA中的堆栈
  • (转)从零实现3D图像引擎:(8)参数化直线与3D平面函数库
  • ***监测系统的构建(chkrootkit )
  • .form文件_SSM框架文件上传篇
  • .net core 6 使用注解自动注入实例,无需构造注入 autowrite4net
  • .NET Micro Framework初体验(二)