[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?

如图1所示,当往Memcached写入500万的160 Bytes的数据项,内存利用率计算:59485199(bytes)/67108864(limit_maxbytes)=89%。内存利用率达到89%时,从evictions看到MC主动踢出很多缓存数据,为什么MC达到90%的内存利用率时开始踢出缓存数据?

《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图1 Memcached stats结果

要分析原因,我们首先要了解下Slab Allocation机制,可参考理解memcached的内存存储

从图2 growth factor=1.25的Slab Allocation看到,160 Bytes的数据项选择192 Bytes的chunk,浪费32 Bytes内存。虽然Slab Allocation解决了malloc/free固有的内存碎片问题,却不能有效利用分配到的内存。

《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图2 Slab Allocation的 chunk 空间分配

我们计算每个chunk的期望内存利用率:

120B的chunk放置的数据项期望长度是(96+120)/2=108,期望的内存利用率为108/120=90%;

152B的chunk放置的数据项期望长度是(120+152)/2=136,期望的内存利用率为136/152=89%;

……

n B的chunk放置的数据项期望长度是(n/1.25+n)/2=9n/10,期望的内存利用率为9n/10/n=90%;

所以,内存利用率到90%就意味growth factor=1.25的MC内存已经放满数据,在没有过期数据的情况下,保存新数据只能淘汰LRU(Least Recent Used)的数据。

推广到任意growth factor(gf),n Bytes的chunk放置的数据项期望长度是(n/gf+n)/2=(1+gf)n/(2*gf),期望的内存利用率为(1+gf)/(2*gf),比如:

gf=1.25,期望的内存利用率为90%;

gf=2,期望的内存利用率为75%;

…….

极端情况,gf=1,期望的内存利用率为100%,但是growth factor必须大于1,否则会如图3的报错。

《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图3 growth factor必须大于1

那是不是说growth factor接近1,期望的内存利用率就能接近100%?结果出人意料。

在分配64M内存的MC中,growth factor=1.000001,如图4、图5所示,1~199个Slab class的chunk size为96 Bytes,第200个Slab class的chunk size为1MB。

《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图4 growth factor=1.000001的Slab Allocation
《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图5 growth factor=1.000001的Slab Allocation

当growth factor=1.000001,往64M内存MC插入163 Bytes的数据项,如图6和图7所示,内存利用率:bytes(10432)/limit_maxbytes(67108864)=0.01%,趋近于0。163 Bytes的数据项不能放入到96 Bytes的chunk,只能放到slab class 200的64MB的chunk,几乎浪费64M所有的空间,总共写入163 Bytes * 64=10432 Bytes的数据。从这个例子看出,growth factor不能趋近与1,否则内存利用率趋近于0。但是growth factor也不能太大,否则内存利用率也会很低。

实践经验表明,growth factor最好介于1.05~2之间,并且根据业务缓存数据块大小而定。

《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图6 stats结果
《[Memcached] 为什么MC达到90%的内存利用率时开始踢出数据?》 图7 stats slab结果

    原文作者:大头8086
    原文地址: https://www.jianshu.com/p/c3fbe84dc6d4
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞