9.1 Memcached
9.2 Memcached的安装及使用
1、Memcached特点:
1、协议简单
2、基于libevent的事件处理
3、内置内存存储方式
4、采用不互相通信的分布式
5、把数据存储在内存中,只用重启Mencached或者OS的话,数据都会丢失
6、当内存中数据满了,会采用LRU算法自动删除一些缓存
2、memcached安装使用:找对版本就可以了
3、使用Memcached加速web应用
1、从数据库中select出来数据
2、把数据存到memcached中
9.3 深入了解memcached
1、memcached如何支持高并发:memcached利用IO多路复用模型实现高并发。(消息通知模式,用户做好准备后,系统会通知可以进行IO操作,这样就不会阻塞了)
2、开启memcached设置线程数时,一般设置为cpu的核数(线层调度)
3、使用Slab分配算法保存数据:该分配算法限制了一个slab页只能为1M,但是该算法也可以减少内存碎片的产生。
4、Slab算法把1M大小的内存称为一个slab页,然后通过分割算法把这个slab页分为若干个小块chunk,然后把chunk分配给用户。
5、Memcached向Slab层申请内存存储数据的时候,先调用一个slabs_clsid(size)函数,根据size的大小找到一个适合的空闲的chunk,便把一个合适的chunk分配给Memcached用,分配工作由do_slabs_alloc()函数完成,该函数会先从slots(被回收的chunk快列表)中获取可用的chunk块,否则就从空闲的chunk快列表中获取并返回。
6、使用LRU算法淘汰数据:当申请内存失败时,就开始淘汰数据,淘汰的步骤:从数据项列表的尾部开始遍历,释放掉引用计数器为0 的item,(为什么要从尾部开始遍历呢?因为memcached会把刚刚访问过的数据项放到数据列表的最前面。这也是LRU的精髓)如果找不到为0的item,就找3个小时未被访问的item,如果还是找不到,就返回null ,申请内存失败。
7、Memcached多线程模型:Memcached是一个多线程的缓存服务器程序,可以分为:主线程和工作线程。
8、主线程用来接收客户端的连接信息,并把连接分配给工作线程。主线程监听客户端的连接,当有连接的时候,会调用accept函数接受新的连接,并利用函数dispatch_conn_new()把该链接push到工作线程的CQ队列中,并向工作线程发送一个信号,通知工作线程有一个连接需要处理。
9、工作线程处理客户端连接的请求,当工作线程收到主线程的信号后,会把CQ队列上的客户端注册到libevent进行侦听客户端的读写事件,并调用回调函数drive_machine进行处理。
9.4 Memcached分布式配置方案
1、两种分布:普通的Hash分布、一致性Hash分布
2、普通Hash分布就是通过key转换为整数后,利用这个整数与Memcached服务器取模,这样就可以得到一个服务器的信息。但是对于突然增加一台memcached服务器的时候,取模就会发生偏差,这样就会导致丢失数据,一致性Hahs分布就产生了。但是对于Mem服务器数量稳定的时候,使用普通Hash就可以了
3、一致性Hash分布分为6个步骤:
1、将一个32位整数想象成一个环
2、通过hash函数把key处理成整数(mhash函数)
3、把Memcached群服务器映射到环上,使用hash函数处理IP
4、把数据映射到服务器上,沿着圆环顺时针方向,数据碰到ip后,就存储在这个ip上
5、移除服务器,变动的只有该服务器与邻近服务器之间的数据
6、添加服务器,添加的位置和相邻服务器之间的数据重新映射。