run spark on yarn

2023年5月3日 246次阅读 来源: xncode

需要HADOOP_CONF_DIR YARN_CONF_DIR环境变量，用于写入数据到hdfs和连接到yarn的resourcemanager。

启动方式同样有两种：

cluster mode 在yarn集群中的一个进程中运行，客户进程可以结束。
client mode 在客户进程中运行，只是从yarn中获取资源

yarn的地址是通过配置文件获得的，启动时只需要传递 –yarn即可

./bin/spark-submit --class path.to.your.Class --master yarn --deploy-mode cluster [options] <app jar> [app options]

例如

./bin/spark-submit --class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode cluster \
--driver-memory 4g \
--executor-memory 2g \
--executor-cores 1 \
--queue thequeue \
lib/spark-examples*.jar \
10

./bin/spark-shell --master yarn --deploy-mode client

./bin/spark-submit --class my.main.Class \
--master yarn \
--deploy-mode cluster \
--jars my-other-jar.jar,my-other-other-jar.jar \
my-main-jar.jar \
app_arg1 app_arg2
    原文作者：xncode
    原文地址: https://www.jianshu.com/p/b8ef29683ade
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞