apache-spark – 重启Spark后,如何在Web UI中查看“已完成的应用程序”详细信息

我想在完成后通过Web UI检查Spark App.所以我将spark.eventLog.enabled设置为true,然后将spark.eventLog.dir设置为本地目录.然后当我点击已完成的应用程序名称时,它会显示App的详细信息.但是当我重置操作系统并再次运行Spark时,它并没有显示完成的应用程序.我查看了spark.eventLog.dir目录并看到已完成的应用程序的详细信息,但我不知道如何再次使用此文件夹在Web UI中查看它? 最佳答案 重新启动Spark会清除已完成的应用程序列表,Spark只会将它们保留在内存中.

如果要检查较旧的应用程序,则必须从/path/to/spark/sbin/start-history-server.sh / path / to / event-log启动历史记录服务器.

更多信息:https://spark.apache.org/docs/latest/monitoring.html

点赞