Jusene's Blog

memcached

字数统计: 1.8k阅读时长: 7 min
2017/05/24 Share

nginx+memcached

nginx的memcached_module模块可以直接从memcached服务器中读取内容后输出,后续的请求不再经过应用程序处理,如php-fpm、django,大大的提升动态页面的速度。nginx只负责从memcached服务器中读取数据,要往memcached写入数据还得需要后台的应用程序来完成,主动的将要缓存的页面缓存到memcached中,可以通过404重定向到后端去处理的。

整个请求的用户通过上图可得做,nginx可以先从memcached缓存先获取数据,,但缓存没有命中的时候rewrite到去请求去获取资源并缓存到memcached。

memcached

在memcached内存分配之前,先说下linux内存管理管理中用到的两种避免内存碎片的机制。

  • Buddy system
    伙伴系统避免内存外的碎片,linux内核分配内存的方式是按照页框(默认4k大小)进行的,由于页框大小是4k,而很多信息打开需要用到几个页框,外碎片就是指内核想找一个大页框来存储某些信息时都无法找到,而buddy system就是会自动将相邻的页框合并成连续的大空间的一种机制。

  • Slab allocator
    slab分配器避免内存内的碎片,linux内核分配内存的方式是按照页框(默认4k大小)进行的,由于页框大小是4k,而在linux系统中很多信息打开时都不需要用到一个页框,如inode的描述信息,slab allocator的基本原理是按照预先固定的大小,将页框分配成特定结构存储大小数据而不销毁页框而是重复使用,随时申请随时使用,解决内存内的碎片问题。

memcached内存分配机制

memcached默认采用slab allocator的机制分配、管理内存。memcached解决的最大的一个问题就是内存多次读取时内存碎片问题,memcached启动进程的时候就按照预先设定好的大小(默认64m),在内存开辟出一段连续的内存空间,之后再将这段内存分成不同的片段。就是预先将memcached分配的内存划分成一系列slab,每个slab只负责一定范围内的数据存储,其实就是在slab这个空间内把内存分成尺寸相同的chunk,如下图:

memcached分配内存是在总大小64M(默认)中分成一组组的slab,每一个slab有特定的大小的chunk存储单元。比如上图第一个slab内存存放的都是88字节的存储单元,第二个是112字节,从此类推,一直把64M内存分配完。memcached默认情况下下一个slab的最大值是前一个的1.25倍(增长因子),但是每个slab之间的增长因子是管理员在启动memcached时可以设定的。

由上可知,memcached中的chunk是用来真正的存储数据的,而slab是用来管理一组特定大小的chunk的组,对于chunk来说,最小可以到48字节,最大默认1m,那么memcached是如何存储数据的,每个slab只储存只储存大于其上一个slab chunk的大小其上一个slab chunk的大小并小于或者等于自己最大的chunk的数据。比如chunk size是144byte,而储存的数据只有120byte,剩下的24byte就被浪费了。

memcached会优先使用已超时的记录的空间,但即使如此,也会发生追加新记录时空间不足的情况, 此时就要使用名为Least Recently Used(LRU)机制来分配空间。 顾名思义,这是删除“最近最少使用”的记录的机制。 因此,当memcached的内存空间不足时(无法从slab class 获取到新的空间时),就从最近未被使用的记录中搜索,并将其空间分配给新的记录。 从缓存的实用角度来看,该模型十分理想。不过,有些情况下LRU机制反倒会造成麻烦。memcached启动时通过“-M”参数可以禁止LRU。

memcached常用的选项

  • -l [ip_addr] :指定进程监听的地址
  • -d:以服务模式运行
  • -u [username]: 以指定的用户身份运行memcached进程
  • -m [num]: 用户缓存数据的最大内存空间,单位为mb,默认为64mb
  • -c [num]: 用于支持最大的并发连接数,默认为1024
  • -p [num]: 指定监听的tcp端口,默认为11211:
  • -U [num]: 指定监听的udp,默认为11211,0表示关闭udp端口
  • -t [threads]: 用于处理入站请求的最大线程数,仅在memcached编译时开启了支持线程才有效
  • -f [factor]: 设定slab allocator定义预先分配内存空间大小固定的块时使用的增长因子
  • -n 指定最小的slab chunk大小,单位字节
  • -M; 当内存空间不够时返回错误信息,而不是按LRU算法利用空间
  • -S:启用sasl
1
~]# memcached -u nobody -d -m 1024 -vv
2
slab class   1: chunk size        96 perslab   10922
3
slab class   3: chunk size       152 perslab    6898
4
slab class   4: chunk size       192 perslab    5461
5
slab class   5: chunk size       240 perslab    4369
6
slab class   6: chunk size       304 perslab    3449
7
slab class   7: chunk size       384 perslab    2730
8
slab class   8: chunk size       480 perslab    2184
9
slab class   9: chunk size       600 perslab    1747
10
slab class  10: chunk size       752 perslab    1394
11
slab class  11: chunk size       944 perslab    1110
12
slab class  12: chunk size      1184 perslab     885
13
...

memcached常用的命令:

  • 统计类
    stats;stats items
  • 存储类命令
    set;add;replace;append;prepend
    set key flag timeout datasize
  • 获取数据类
    get;delete;incr;decr
  • 清空
    flush_all
1
~]# telnet 127.0.0.1 11211
2
stats
3
STAT pid 27323
4
STAT uptime 153
5
STAT time 1495641161
6
STAT version 1.4.15
7
STAT libevent 2.0.21-stable
8
STAT pointer_size 64
9
STAT rusage_user 0.000000
10
STAT rusage_system 0.013679
11
STAT curr_connections 10
12
STAT total_connections 11
13
STAT connection_structures 11
14
STAT reserved_fds 20
15
STAT cmd_get 0
16
STAT cmd_set 0
17
STAT cmd_flush 0
18
STAT cmd_touch 0
19
STAT get_hits 0
20
STAT get_misses 0
21
STAT delete_misses 0
22
STAT delete_hits 0
23
STAT incr_misses 0
24
STAT incr_hits 0
25
STAT decr_misses 0
26
STAT decr_hits 0
27
STAT cas_misses 0
28
STAT cas_hits 0
29
STAT cas_badval 0
30
STAT touch_hits 0
31
STAT touch_misses 0
32
STAT auth_cmds 0
33
STAT auth_errors 0
34
STAT bytes_read 9
35
STAT bytes_written 7
36
STAT limit_maxbytes 1073741824
37
STAT accepting_conns 1
38
STAT listen_disabled_num 0
39
STAT threads 4
40
STAT conn_yields 0
41
STAT hash_power_level 16
42
STAT hash_bytes 524288
43
STAT hash_is_expanding 0
44
STAT bytes 0
45
STAT curr_items 0
46
STAT total_items 0
47
STAT expired_unfetched 0
48
STAT evicted_unfetched 0
49
STAT evictions 0
50
STAT reclaimed 0
51
END
52
53
set first 0 30 11
54
hello world
55
STORED
56
57
get first
58
VALUE first 0 11
59
hello world
60
END
61
62
add a 0 300 1
63
1
64
STORED
65
66
incr a 10
67
11
68
69
stats items
70
STAT items:1:number 2
71
STAT items:1:age 319
72
STAT items:1:evicted 0
73
STAT items:1:evicted_nonzero 0
74
STAT items:1:evicted_time 0
75
STAT items:1:outofmemory 0
76
STAT items:1:tailrepairs 0
77
STAT items:1:reclaimed 1
78
STAT items:1:expired_unfetched 0
79
STAT items:1:evicted_unfetched 0
80
END

nginx+memcached

1
server {
2
3
	listen 8080;
4
	server_name cache.jusene.me;
5
	index index.html index.html index.php;
6
	root /data/www/public;
7
8
	location / {
9
		set $memcached_key $uri;
10
		add_header X-mem-key $memcached_key;
11
		memcached_pass 127.0.0.1:11211;
12
		default_type text/html;
13
		error_page 404 502 504 = @fallback;
14
	}
15
16
	location @fallback {
17
		proxy_pass 127.0.0.1:80;
18
	}
19
}

php共享会话

一、配置php将会话保存至memcached中

编辑php.ini文件,确保如下两个参数的值分别如下所示:
session.save_handler = memcached
session.save_path = “tcp://127.0.0.1:11211?persistent=1&weight=1&timeout=1&retry_interval=15”

二、测试

新建php页面setsess.php,为客户端设置启用session:

1
<?php
2
session_start();
3
if (!isset($_SESSION['www.jusene.com'])) {
4
  $_SESSION['www.jusene.com'] = time();
5
}
6
print $_SESSION['www.jusene.com'];
7
print "<br><br>";
8
print "Session ID: " . session_id();
9
?>

新建php页面showsess.php,获取当前用户的会话ID:

1
<?php
2
session_start();
3
$memcache_obj = new Memcache;
4
$memcache_obj->connect('127.0.0.1', 11211);
5
$mysess=session_id();
6
var_dump($memcache_obj->get($mysess));
7
$memcache_obj->close();
8
?>
CATALOG
  1. 1. nginx+memcached
  2. 2. memcached
    1. 2.1. memcached内存分配机制
    2. 2.2. memcached常用的选项
  3. 3. nginx+memcached