配置 Configuration Default Value Meaning spark.driver.cores 1 Number of cores to use for the driver process, onl…
标签:driver
spark任务提交时绝对路径添加额外配置文件提示找不到路径
spark任务提交,添加额外配置文件时用绝对路径读取不到上传的文件。 /usr/local/spark-2.1.0-bin-hadoop2.7/bin/spark-submit --name str_platform_t…
selenium_通过selenium控制浏览器滚动条
控制滚动条这个事情难为了我好久,查了无数篇文章,基本千篇一律,全是一个方法,但是在我这里就是没能成功,最无助之时求助二哥,简单讲明selenium控制浏览器滚动条原理后,2分钟就给我找到解决方法了,佩服的五体投地啊! 先…
macos – CH34x驱动程序/ kext安装OSX Sierra
我正试图让OSX Sierra上的驱动程序运行.但没有结果. 我的研究让我到了以下网站:https://github.com/adrianmihalko/ch340g-ch34g-ch34x-mac-os-x-drive…
Spark Core 性能调优之配置进程参数
操作场景 Spark on YARN模式下,有Driver、ApplicationMaster、Executor三种进程。在任务调度和运行的过程中,Dri…
Spark架构原理
我的原创地址:https://dongkelun.com/2018/06/09/sparkArchitecturePrinciples/ 前言 本文总结了Spark架构原理,其中主要包括五个组件:Driver、Maste…
基于Java对于MongoDB数据库的复杂查询操作
前言 在sql转noSql途中总是免不了一些对于原有的复杂sql语句的转译工作,因为不熟悉java环境下对于mongoDB操作的语句,所以走了不少的弯路,这些复杂语句在stackoverflow中找又会花上不少时间,于是…