spark令人疑惑的内存配置

今天,星球里有个妹子问了一个问题,主要是spark官网说了这么段话:

在gc的统计信息中,如果老年代接近满了,
减少用于缓存的内存(通过减小spark.memory.Fraction)。
缓存较少的对象比降低运行速度对我们来说更有好处。
另外,可以考虑减少年轻代。可以通过减小-Xmn参数设置的值,假如使用的话。
假如没有设置可以修改JVM的NewRation参数。
大多数JVMs默认值是2,意思是老年代占用了三分之二的总内存。
这个值要足够大,相当于扩展了spark.memory.fraction.

她的疑惑是为啥不直接设置:

spark.memory.storageFraction

以减少存储内存的占比。

大家可以思考一下,减少spark.memory.storageFraction,可行吗?

明显是不太可行的,这个是没有理解这两个参数的含义。

要知道spark的大部分内存分为执行内存和存储内存。他们共享一个存储空间M。同时,存储内存在执行内存空闲的时候可以占用执行内存空间,执行内存也可以在存储内存大于一个阈值R的时候占用存储内存。R代表缓存不可被清除的最小存储内存。

M和R的计算如下:

1),spark.memory.fraction将M的大小表示为(JVM堆空间 - 300MB)
的一部分(默认为0.75,新版本如spark2.2改为0.6)。
剩余的空间(25%,对应的新版本是0.4)用于用户数据结构,
Spark中的内部元数据,并且在稀疏和异常大的记录的情况下保护OOM错误。
2),spark.memory.storageFraction表示R的大小作为M的一部分(
默认为0.5)。R是M内的存储空间,其中缓存的块免于被执行器驱逐。

然后就会明白,假如我们单纯的减少spark.memory.storageFraction是行不通的,因为存储内存可以占用执行内存进行缓存,缓解不了老年代被吃满的状况,所以只能调整spark.memory.fraction。

1.当然,除了这样,还可以减少年轻代大小,前提是不影响性能。

2.spark最骚的操作是,没有加内存解决不了的问题,假如有那是没加够。

所以建议大家在学习的时候注意深入细心,然后连贯思考。

    原文作者:浪尖
    原文地址: https://zhuanlan.zhihu.com/p/72407390
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞