前段时间，因为一个项目的关系，研究了php通过调用memcache和memcached PECL扩展库的接口存储到分布式缓存服务器的机制，在此做我根据他们各自的源码进行分析，希望能对这方面感兴趣的人有些帮助。
本篇文章我会针对php和memcache扩展库的交互根据源码展开分析。
PHP调用memcache的接口通常会是如下过程：
 
  1. [cc lang="php"] 
  2. $mmc = new Memcache(); 
  3. $mmc->addServer(‘node1′, 11211); 
  4. $mmc->addServer(‘node2′, 11211, MemcacheConfig::MEMCACHE_PERSISTENT, 2); 
  5. $mmc->set(‘key’, ‘value’); 
  6. echo $mmc->get(‘key’); 
  7. $mmc->delete(‘key’); 
  8. [/cc] 


短短几行代码，一个缓存key的生命周期就已经完整层现。从Memcache的初始化，到addServer添加两个服务器节点，接着set一个key到服务器上，然后get到这个key输出，最后delete这个key。在这个生命周期里，Memcache在底层究竟做了哪些事情，保证了数据存储服务器的均匀分布，数据的完整性？


接下来，我会根据上述生命周期的顺序，循序渐进的分析（由于主题是分布式算法的分析，所以接下来不相干的代码我会略去，很多分析我会直接备注在源码上）。


1. Memcache的初始化


对应PHP的代码：


 


  1. [cc lang="php"] 
  2. $mmc = new Memcache(); 
  3. [/cc] 


对应C的代码：


 


  1. [cc lang="c"] 
  2. // Memcache类对应的方法名已经实际在c中实现过程的函数名，在接下来的分析中会用到。忽略不会分析到的方法。 
  3. static zend_function_entry php_memcache_class_functions[] = { 
  4. PHP_FALIAS(addserver, memcache_add_server, NULL) 
  5. PHP_FALIAS(set, memcache_set, NULL) 
  6. PHP_FALIAS(get, memcache_get, NULL) 
  7. PHP_FALIAS(delete, memcache_delete, NULL) 
  8. …… 
  9. }; 
  10. PHP_MINIT_FUNCTION(memcache) 
  11. { 
  12. // 初始化Memcache类实体，给类定在php空间中的调用名称以及类所拥有的方法 
  13. zend_class_entry memcache_class_entry; 
  14. INIT_CLASS_ENTRY(memcache_class_entry, "Memcache", php_memcache_class_functions); 
  15. memcache_class_entry_ptr = zend_register_internal_class(&memcache_class_entry TSRMLS_CC); 
  16. …… 
  17. } 
  18. [/cc] 


以上过程是在Module Initialization的环节已经做好，在new的过程中，并无其余处理。


2. 添加缓存服务器，使之成为分布式存储


对应PHP的代码：


 


  1. [cc lang="php"] 
  2. $mmc->addServer(‘node1′, 11211); 
  3. $mmc->addServer(‘node2′, 11211, MemcacheConfig::MEMCACHE_PERSISTENT, 2); 
  4. [/cc] 


由上面的php_memcache_class_functions结构可以看出，addServer方法对应的是memcache_add_server函数，因此对应C的代码：


 


  1. [cc lang="c"] 
  2. PHP_FUNCTION(memcache_add_server) 
  3. { 
  4. zval **connection, *mmc_object = getThis(), *failure_callback = NULL; 
  5. // 整个Memcache中最重要的一个结构mmc_pool_t 
  6. mmc_pool_t *pool; 
  7. // 当前新添服务器的结构变量 
  8. mmc_t *mmc; 
  9. …… 
  10. // 如果pool之前没有初始化过，则初始化 
  11. if (zend_hash_find(Z_OBJPROP_P(mmc_object), "connection", sizeof("connection"), (void **) &connection) == FAILURE) { 
  12. // 调用mmp_pool_new完成初始化 
  13. pool = mmc_pool_new(TSRMLS_C); 
  14. …… 
  15. } 
  16. else { 
  17. …… 
  18. } 
  19. //将新增服务器添加到pool中 
  20. mmc_pool_add(pool, mmc, weight); 
  21. RETURN_TRUE; 
  22. } 
  23. [/cc] 
  24. 来看下mmc_pool_t结构的定义： 
  25. [cc lang="c"] 
  26. typedef struct mmc_pool { 
  27. mmc_t **servers; // 所有服务器的状态 
  28. int num_servers; // 服务器数量 
  29. mmc_t **requests; // 根据get的array key请求顺序返回的服务器数组状态 
  30. int compress_threshold; // 待存储的数据压缩的下限值 
  31. double min_compress_savings; // 待存储的数据最小的压缩百分比 
  32. zend_bool in_free; // 标记该pool是否被释放 
  33. mmc_hash_t *hash; // hash策略容器 
  34. void *hash_state; // hash函数 
  35. } mmc_pool_t; 
  36. [/cc] 
  37. 然后我们看下mmc_hash_t的结构，再接下去的分析中会用到： 
  38. [cc lang="c"] 
  39. // 结构定义中包含了四种抽象函数，作为基本结构，用于定义子结构 
  40. typedef struct mmc_hash { 
  41. mmc_hash_create_state create_state; // 创建hash策略状态，主要是接纳了hash函数算法 
  42. mmc_hash_free_state free_state; // 释放hash策略状态 
  43. mmc_hash_find_server find_server; // 根据key和分布式算法定位到某台服务器 
  44. mmc_hash_add_server add_server; // 根据hash策略、算法以及权重值添加服务器资源 
  45. } mmc_hash_t; 
  46. [/cc] 


接着我们追踪memcache_add_server函数中的mmc_pool_new函数调用方法：


 


  1. [cc lang="c"] 
  2. mmc_pool_t *mmc_pool_new(TSRMLS_D) /* {{{ */ 
  3. { 
  4. // 初始化一些基本的状态 
  5. mmc_pool_t *pool = emalloc(sizeof(mmc_pool_t)); 
  6. pool->num_servers = 0; 
  7. pool->compress_threshold = 0; 
  8. pool->in_free = 0; 
  9. pool->min_compress_savings = MMC_DEFAULT_SAVINGS; 
  10. // 初始化分布式哈希算法 
  11. mmc_pool_init_hash(pool TSRMLS_CC); 
  12. return pool; 
  13. } 
  14. [/cc] 


现在初始化hash算法已经逐渐显露，继续追踪mmc_pool_init_hash函数:


  1. [cc lang="c"] 
  2. static void mmc_pool_init_hash(mmc_pool_t *pool TSRMLS_DC) /* {{{ */ 
  3. { 
  4. mmc_hash_function hash; // 初始化hash函数 
  5. // 根据php.ini中的memcache.hash_strategy配置选择hash存储策略，默认为标准hash存储策略 
  6. switch (MEMCACHE_G(hash_strategy)) { 
  7. case MMC_CONSISTENT_HASH: 
  8. pool->hash = &mmc_consistent_hash; // 采用持久化hash存储策略 
  9. break; 
  10. default: 
  11. pool->hash = &mmc_standard_hash; // 采用标准hash存储策略 
  12. } 
  13. // 根据php.ini中的memcache.hash_function配置选择hash函数，默认为crc32算法 
  14. switch (MEMCACHE_G(hash_function)) { 
  15. case MMC_HASH_FNV1A: 
  16. hash = &mmc_hash_fnv1a; // 采用fnv1a算法 
  17. break; 
  18. default: 
  19. hash = &mmc_hash_crc32; // 采用crc32算法 
  20. } 
  21. // hash策略中根据选择的hash函数创建对应的状态 
  22. pool->hash_state = pool->hash->create_state(hash); 
  23. } 
  24. [/cc] 


根据上面的两个switch可以知道，在create_state的时候，是有两种策略选择的可能性，接着传入的hash参数也存在两种可能性，这里我先分析标准hash存储策略，以及对应的两种hash算法，然后再分析持久化hash策略。


先看下mmc_consistent_hash结构：


 


  1. [cc lang="c"] 
  2. // 根据mmc_hash_t的定义包含了四种具体函数实现 
  3. mmc_hash_t mmc_standard_hash = { 
  4. mmc_standard_create_state, 
  5. mmc_standard_free_state, 
  6. mmc_standard_find_server, 
  7. mmc_standard_add_server 
  8. }; 
  9. [/cc] 


由上可知，pool->hash->create_state的函数调用实际是对mmc_standard_create_state的函数调用，继续看mmc_standard_create_state函数代码的实现：


 


  1. [cc lang="c"] 
  2. // hash策略状态 
  3. typedef struct mmc_standard_state { 
  4. int num_servers; // 服务器数量 
  5. mmc_t **buckets; // 哈希桶，和权重值相关 
  6. int num_buckets; // 哈系桶的数量 
  7. mmc_hash_function hash; // hash算法 
  8. } mmc_standard_state_t; 
  9. void *mmc_standard_create_state(mmc_hash_function hash) /* {{{ */ 
  10. { 
  11. // 初始化状态 
  12. mmc_standard_state_t *state = emalloc(sizeof(mmc_standard_state_t)); 
  13. memset(state, 0, sizeof(mmc_standard_state_t)); 
  14. // 选择的hash函数赋给hash属性 
  15. state->hash = hash; 
  16. return state; 
  17. } 
  18. [/cc] 
  19. crc的算法实现： 
  20. [cc lang="c"] 
  21. static unsigned int mmc_hash_crc32(const char *key, int key_len) /* CRC32 hash {{{ */ 
  22. { 
  23. unsigned int crc = ~0; 
  24. int i; 
  25. for (i=0; i CRC32(crc, key[i]); 
  26. } 
  27. return ~crc; 
  28. } 
  29. [/cc] 
  30. 有关CRC32再深入的实现可以参考Cyclic redundancy check 
  31. 然后来看看fnv算法实现： 
  32. [cc lang="c"] 
  33. /* 32 bit magic FNV-1a prime and init */ 
  34. #define FNV_32_PRIME 0×01000193 
  35. #define FNV_32_INIT 0x811c9dc5 
  36. static unsigned int mmc_hash_fnv1a(const char *key, int key_len) /* FNV-1a hash {{{ */ 
  37. { 
  38. unsigned int hval = FNV_32_INIT; 
  39. int i; 
  40. for (i=0; i hval ^= (unsigned int)key[i]; 
  41. hval *= FNV_32_PRIME; 
  42. } 
  43. return hval; 
  44. } 
  45. [/cc] 


具体fnv算法的深入实现可以参考Fowler–Noll–Vo hash function


 


最后我们看看mmc_consistent_hash结构：


 


  1. [cc lang="c"] 
  2. mmc_hash_t mmc_consistent_hash = { 
  3. mmc_consistent_create_state, 
  4. mmc_consistent_free_state, 
  5. mmc_consistent_find_server, 
  6. mmc_consistent_add_server 
  7. }; 
  8. [/cc] 


一样是四个函数，看下对应的create_state中的mmc_consistent_create_state的实现：


 


  1. [cc lang="c"] 
  2. /* number of precomputed buckets, should be power of 2 */ 
  3. #define MMC_CONSISTENT_BUCKETS 1024 
  4. typedef struct mmc_consistent_point { 
  5. mmc_t *server; // 服务器状态 
  6. unsigned int point; // 对应的指针 
  7. } mmc_consistent_point_t; 
  8. typedef struct mmc_consistent_state { 
  9. int num_servers; // 服务器数量 
  10. mmc_consistent_point_t *points; // 持久化服务器指针 
  11. int num_points; // 指针数量 
  12. mmc_t *buckets[MMC_CONSISTENT_BUCKETS]; // 哈希桶 
  13. int buckets_populated; // 标记哈希桶是否计算过 
  14. mmc_hash_function hash; // hash函数 
  15. } mmc_consistent_state_t; 
  16. void *mmc_consistent_create_state(mmc_hash_function hash) /* {{{ */ 
  17. { 
  18. // 初始化state 
  19. mmc_consistent_state_t *state = emalloc(sizeof(mmc_consistent_state_t)); 
  20. memset(state, 0, sizeof(mmc_consistent_state_t)); 
  21. // 将hash函数赋值给hash属性 
  22. state->hash = hash; 
  23. return state; 
  24. } 
  25. [/cc] 


至此，memcache_add_server中mmc_pool_new函数流程结束，接着来看mmc_pool_add函数：


 


  1. [cc lang="c"] 
  2. void mmc_pool_add(mmc_pool_t *pool, mmc_t *mmc, unsigned int weight) /* {{{ */ 
  3. { 
  4. /* add server and a preallocated request pointer */ 
  5. if (pool->num_servers) { 
  6. pool->servers = erealloc(pool->servers, sizeof(mmc_t *) * (pool->num_servers + 1)); 
  7. pool->requests = erealloc(pool->requests, sizeof(mmc_t *) * (pool->num_servers + 1)); 
  8. } 
  9. else { 
  10. pool->servers = emalloc(sizeof(mmc_t *)); 
  11. pool->requests = emalloc(sizeof(mmc_t *)); 
  12. } 
  13. pool->servers[pool->num_servers] = mmc; 
  14. pool->num_servers++; 
  15. // 根据pool状态，当前要添加的服务器状态和权重调用add_server函数 
  16. pool->hash->add_server(pool->hash_state, mmc, weight); 
  17. } 
  18. [/cc] 
  19. 由上面的说明可知add_server在标准hash模式下对应mmc_standard_add_server函数： 
  20. [cc lang="c"] 
  21. void mmc_standard_add_server(void *s, mmc_t *mmc, unsigned int weight) /* {{{ */ 
  22. { 
  23. mmc_standard_state_t *state = s; 
  24. int i; 
  25. // 哈希桶初始化或重新分配相应的权重数值对应的空间 
  26. if (state->num_buckets) { 
  27. state->buckets = erealloc(state->buckets, sizeof(mmc_t *) * (state->num_buckets + weight)); 
  28. } 
  29. else { 
  30. state->buckets = emalloc(sizeof(mmc_t *) * (weight)); 
  31. } 
  32. // 在某个区间内为哈希桶赋予服务器状态 
  33. for (i=0; i buckets[state->num_buckets + i] = mmc; 
  34. } 
  35. state->num_buckets += weight; 
  36. state->num_servers++; 
  37. } 
  38. [/cc] 


在持久化hash模式下，对应的是mmc_consistent_add_server函数：


 


  1. [cc lang="c"] 
  2. #define MMC_CONSISTENT_POINTS 160 /* points per server */ 
  3. void mmc_consistent_add_server(void *s, mmc_t *mmc, unsigned int weight) /* {{{ */ 
  4. { 
  5. mmc_consistent_state_t *state = s; 
  6. int i, key_len, points = weight * MMC_CONSISTENT_POINTS; 
  7. /* buffer for "host:port-i\0" */ 
  8. char *key = emalloc(strlen(mmc->host) + MAX_LENGTH_OF_LONG * 2 + 3); 
  9. /* add weight * MMC_CONSISTENT_POINTS number of points for this server */ 
  10. state->points = erealloc(state->points, sizeof(mmc_consistent_point_t) * (state->num_points + points)); 
  11. // 将区块内的server赋予当前服务器状态，point赋予hash函数处理后的值 
  12. for (i=0; i key_len = sprintf(key, "%s:%d-%d", mmc->host, mmc->port, i); 
  13. state->points[state->num_points + i].server = mmc; 
  14. state->points[state->num_points + i].point = state->hash(key, key_len); 
  15. MMC_DEBUG(("mmc_consistent_add_server: key %s, point %lu", key, state->points[state->num_points + i].point)); 
  16. } 
  17. state->num_points += points; 
  18. state->num_servers++; 
  19. // 新增加服务器后需重新计算buckets顺序 
  20. state->buckets_populated = 0; 
  21. efree(key); 
  22. } 
  23. [/cc] 


以上代码有持久化hash算法的赋值实现，具体深入的了解请看Consistent hashing和国内大侠charlee翻译的小日本的文章memcached全面剖析–PDF总结篇。


Consistent hashing 算法最大的特点是当你的缓存服务器数量变更的时候，它能够最大化的保留原有的缓存不变，而不需要重新分布原有缓存的服务器位置。


至此，整个memcache_add_server流程结束。


3. 向缓存服务器保存数据


对应PHP的代码：


 


  1. [cc lang="php"] 
  2. $mmc->set(‘key’, ‘value’); 
  3. [/cc] 
  4. 由上面的分析可知，set方法对应的是memcache_set函数： 
  5. [cc lang="c"] 
  6. /* {{{ proto bool memcache_set( object memcache, string key, mixed var [, int flag [, int expire ] ] ) 
  7. Sets the value of an item. Item may exist or not */ 
  8. PHP_FUNCTION(memcache_set) 
  9. { 
  10. // Memcache对象中的add，set和replace皆会走该函数 
  11. php_mmc_store(INTERNAL_FUNCTION_PARAM_PASSTHRU, "set", sizeof("set") – 1); 
  12. } 
  13. [/cc] 


看php_mmc_store函数：


 


  1. [cc lang="c"] 
  2. static void php_mmc_store(INTERNAL_FUNCTION_PARAMETERS, char *command, int command_len) /* {{{ */ 
  3. { 
  4. mmc_pool_t *pool; 
  5. …… 
  6. // 获得pool 
  7. if (!mmc_get_pool(mmc_object, &pool TSRMLS_CC) || !pool->num_servers) { 
  8. RETURN_FALSE; 
  9. } 
  10. // 对不同的存储的值类型进行不同的处理 
  11. switch (Z_TYPE_P(value)) { 
  12. // 字符串类型 
  13. case IS_STRING: 
  14. result = mmc_pool_store( 
  15. pool, command, command_len, key_tmp, key_tmp_len, flags, expire, 
  16. Z_STRVAL_P(value), Z_STRLEN_P(value) TSRMLS_CC); 
  17. break; 
  18. // 长整型，浮点型，布尔型 
  19. case IS_LONG: 
  20. case IS_DOUBLE: 
  21. case IS_BOOL: { 
  22. …… 
  23. result = mmc_pool_store( 
  24. pool, command, command_len, key_tmp, key_tmp_len, flags, expire, 
  25. Z_STRVAL(value_copy), Z_STRLEN(value_copy) TSRMLS_CC); 
  26. zval_dtor(&value_copy); 
  27. break; 
  28. } 
  29. // 默认为数组类型 
  30. default: { 
  31. …… 
  32. result = mmc_pool_store( 
  33. pool, command, command_len, key_tmp, key_tmp_len, flags, expire, 
  34. buf.c, buf.len TSRMLS_CC); 
  35. } 
  36. } 
  37. …… 
  38. } 
  39. [/cc] 


由上代码可以看出，存储数据主要是交由mmc_pool_store处理：


 


  1. [cc lang="c"] 
  2. int mmc_pool_store(mmc_pool_t *pool, const char *command, int command_len, const char *key, int key_len, int flags, int expire, const char *value, int value_len TSRMLS_DC) /* {{{ */ 
  3. { 
  4. /* 该省略过程处理数据压缩，处理待发送的请求数据 */ 
  5. …… 
  6. // 通过key确定待保存的服务器 
  7. while (result < 0 && (mmc = mmc_pool_find(pool, key, key_len TSRMLS_CC)) != NULL) { 
  8. // 向缓存服务器发送请求，保存数据 
  9. if ((result = mmc_server_store(mmc, request, request_len TSRMLS_CC)) < 0) { 
  10. mmc_server_failure(mmc TSRMLS_CC); 
  11. } 
  12. } 
  13. if (key_copy != NULL) { 
  14. efree(key_copy); 
  15. } 
  16. if (data != NULL) { 
  17. efree(data); 
  18. } 
  19. efree(request); 
  20. return result; 
  21. } 
  22. [/cc] 


接着我们看下mmc_pool_find是处理的


 


  1. [cc lang="c"] 
  2. #define mmc_pool_find(pool, key, key_len) \ 
  3. pool->hash->find_server(pool->hash_state, key, key_len) 
  4. [/cc] 


原来是再次多态调用了find_server函数，由之前的分析可以得知find_server在标准hash模式中的函数为mmc_standard_find_server，在持久化hash模式中的函数为mmc_consistent_find_server，一样先看mmc_standard_find_server


 


  1. [cc lang="c"] 
  2. mmc_t *mmc_standard_find_server(void *s, const char *key, int key_len TSRMLS_DC) /* {{{ */ 
  3. { 
  4. mmc_standard_state_t *state = s; 
  5. mmc_t *mmc; 
  6. if (state->num_servers > 1) { 
  7. // 用设定的hash函数算法，找到对应的服务器 
  8. unsigned int hash = mmc_hash(state, key, key_len), i; 
  9. mmc = state->buckets[hash % state->num_buckets]; 
  10. // 如果获取到的服务器状态有问题，则重新hash遍历寻找到可用的缓存服务器为止 
  11. for (i=0; !mmc_open(mmc, 0, NULL, NULL TSRMLS_CC) && MEMCACHE_G(allow_failover) && i char *next_key = emalloc(key_len + MAX_LENGTH_OF_LONG + 1); 
  12. int next_len = sprintf(next_key, "%d%s", i+1, key); 
  13. MMC_DEBUG(("mmc_standard_find_server: failed to connect to server '%s:%d' status %d, trying next", mmc->host, mmc->port, mmc->status)); 
  14. hash += mmc_hash(state, next_key, next_len); 
  15. mmc = state->buckets[hash % state->num_buckets]; 
  16. efree(next_key); 
  17. } 
  18. } 
  19. else { 
  20. mmc = state->buckets[0]; 
  21. mmc_open(mmc, 0, NULL, NULL TSRMLS_CC); 
  22. } 
  23. return mmc->status != MMC_STATUS_FAILED ? mmc : NULL; 
  24. } 
  25. [/cc] 


再看mmc_consistent_find_server


 


  1. [cc lang="c"] 
  2. mmc_t *mmc_consistent_find_server(void *s, const char *key, int key_len TSRMLS_DC) /* {{{ */ 
  3. { 
  4. mmc_consistent_state_t *state = s; 
  5. mmc_t *mmc; 
  6. if (state->num_servers > 1) { 
  7. unsigned int i, hash = state->hash(key, key_len); 
  8. // 如果哈希桶没有进行过排序，则进行圆环排序操作 
  9. if (!state->buckets_populated) { 
  10. mmc_consistent_populate_buckets(state); 
  11. } 
  12. mmc = state->buckets[hash % MMC_CONSISTENT_BUCKETS]; 
  13. // 如果获取到的服务器状态有问题，则重新hash遍历寻找到可用的缓存服务器为止 
  14. for (i=0; !mmc_open(mmc, 0, NULL, NULL TSRMLS_CC) && MEMCACHE_G(allow_failover) && i char *next_key = emalloc(key_len + MAX_LENGTH_OF_LONG + 1); 
  15. int next_len = sprintf(next_key, "%s-%d", key, i); 
  16. MMC_DEBUG(("mmc_consistent_find_server: failed to connect to server '%s:%d' status %d, trying next", mmc->host, mmc->port, mmc->status)); 
  17. hash = state->hash(next_key, next_len); 
  18. mmc = state->buckets[hash % MMC_CONSISTENT_BUCKETS]; 
  19. efree(next_key); 
  20. } 
  21. } 
  22. else { 
  23. mmc = state->points[0].server; 
  24. mmc_open(mmc, 0, NULL, NULL TSRMLS_CC); 
  25. } 
  26. return mmc->status != MMC_STATUS_FAILED ? mmc : NULL; 
  27. } 
  28. // 持久化哈希算法的核心部分 
  29. static void mmc_consistent_populate_buckets(mmc_consistent_state_t *state) /* {{{ */ 
  30. { 
  31. unsigned int i, step = 0xffffffff / MMC_CONSISTENT_BUCKETS; 
  32. qsort((void *)state->points, state->num_points, sizeof(mmc_consistent_point_t), mmc_consistent_compare); 
  33. for (i=0; i state->buckets[i] = mmc_consistent_find(state, step * i); 
  34. } 
  35. state->buckets_populated = 1; 
  36. } 
  37. static int mmc_consistent_compare(const void *a, const void *b) /* {{{ */ 
  38. { 
  39. if (((mmc_consistent_point_t *)a)->point < ((mmc_consistent_point_t *)b)->point) { 
  40. return -1; 
  41. } 
  42. if (((mmc_consistent_point_t *)a)->point > ((mmc_consistent_point_t *)b)->point) { 
  43. return 1; 
  44. } 
  45. return 0; 
  46. } 
  47. static mmc_t *mmc_consistent_find(mmc_consistent_state_t *state, unsigned int point) /* {{{ */ 
  48. { 
  49. int lo = 0, hi = state->num_points – 1, mid; 
  50. while (1) { 
  51. /* point is outside interval or lo >= hi, wrap-around */ 
  52. if (point <= state->points[lo].point || point > state->points[hi].point) { 
  53. return state->points[lo].server; 
  54. } 
  55. /* test middle point */ 
  56. mid = lo + (hi – lo) / 2; 
  57. MMC_DEBUG(("mmc_consistent_find: lo %d, hi %d, mid %d, point %u, midpoint %u", lo, hi, mid, point, state->points[mid].point)); 
  58. /* perfect match */ 
  59. if (point <= state->points[mid].point && point > (mid ? state->points[mid-1].point : 0)) { 
  60. return state->points[mid].server; 
  61. } 
  62. /* too low, go up */ 
  63. if (state->points[mid].point < point) { 
  64. lo = mid + 1; 
  65. } 
  66. else { 
  67. hi = mid - 1; 
  68. } 
  69. } 
  70. } 
  71. [/cc] 


至此，memcache_set过程结束。


4. 向缓存服务器获得已保存的数据


对应PHP的代码：


 


  1. [cc lang="php"] 
  2. echo $mmc->get(‘key’); 
  3. [/cc] 


由上面的分析可知，get方法对应的是memcache_get函数：


 


  1. [cc lang="php"] 
  2. PHP_FUNCTION(memcache_get) 
  3. { 
  4. …… 
  5. // 获得pool 
  6. if (!mmc_get_pool(mmc_object, &pool TSRMLS_CC) || !pool->num_servers) { 
  7. RETURN_FALSE; 
  8. } 
  9. // 当key不为数组的情况下处理 
  10. if (Z_TYPE_P(zkey) != IS_ARRAY) { 
  11. // 检查key的合法性 
  12. if (mmc_prepare_key(zkey, key, &key_len TSRMLS_CC) == MMC_OK) { 
  13. // 获取key获取value 
  14. if (mmc_exec_retrieval_cmd(pool, key, key_len, &return_value, flags TSRMLS_CC) < 0) { 
  15. zval_dtor(return_value); 
  16. RETVAL_FALSE; 
  17. } 
  18. } 
  19. else { 
  20. RETVAL_FALSE; 
  21. } 
  22. // 为数组的情况下处理 
  23. } else if (zend_hash_num_elements(Z_ARRVAL_P(zkey))){ 
  24. //根据数据key获取数组值 
  25. if (mmc_exec_retrieval_cmd_multi(pool, zkey, &return_value, flags TSRMLS_CC) < 0) { 
  26. zval_dtor(return_value); 
  27. RETVAL_FALSE; 
  28. } 
  29. } else { 
  30. RETVAL_FALSE; 
  31. } 
  32. } 
  33. [/cc] 


接着看mmc_exec_retrieval_cmd和mmc_exec_retrieval_cmd_multi函数：


 


  1. [cc lang="c"] 
  2. int mmc_exec_retrieval_cmd(mmc_pool_t *pool, const char *key, int key_len, zval **return_value, zval *return_flags TSRMLS_DC) /* {{{ */ 
  3. { 
  4. mmc_t *mmc; 
  5. char *command, *value; 
  6. int result = -1, command_len, response_len, value_len, flags = 0; 
  7. MMC_DEBUG(("mmc_exec_retrieval_cmd: key '%s'", key)); 
  8. command_len = spprintf(&command, 0, "get %s", key); 
  9. // 遍历寻找到key对应的value值 
  10. while (result < 0 && (mmc = mmc_pool_find(pool, key, key_len TSRMLS_CC)) != NULL) { 
  11. ...... 
  12. } 
  13. if (return_flags != NULL) { 
  14. zval_dtor(return_flags); 
  15. ZVAL_LONG(return_flags, flags); 
  16. } 
  17. efree(command); 
  18. return result; 
  19. } 
  20. static int mmc_exec_retrieval_cmd_multi(mmc_pool_t *pool, zval *keys, zval **return_value, zval *return_flags TSRMLS_DC) /* {{{ */ 
  21. { 
  22. ...... 
  23. do { 
  24. result_status = num_requests = 0; 
  25. zend_hash_internal_pointer_reset_ex(Z_ARRVAL_P(keys), &pos); 
  26. // 遍历key得到所有key对应的服务器资源存入pool->requests中 
  27. while (zend_hash_get_current_data_ex(Z_ARRVAL_P(keys), (void **)&zkey, &pos) == SUCCESS) { 
  28. if (mmc_prepare_key(*zkey, key, &key_len TSRMLS_CC) == MMC_OK) { 
  29. /* schedule key if first round or if missing from result */ 
  30. if ((!i || !zend_hash_exists(Z_ARRVAL_PP(return_value), key, key_len)) && 
  31. // 根据key寻找到服务器 
  32. (mmc = mmc_pool_find(pool, key, key_len TSRMLS_CC)) != NULL) { 
  33. if (!(mmc->outbuf.len)) { 
  34. smart_str_appendl(&(mmc->outbuf), "get", sizeof("get")-1); 
  35. pool->requests[num_requests++] = mmc; 
  36. } 
  37. smart_str_appendl(&(mmc->outbuf), " ", 1); 
  38. smart_str_appendl(&(mmc->outbuf), key, key_len); 
  39. MMC_DEBUG(("mmc_exec_retrieval_cmd_multi: scheduled key ‘%s’ for ‘%s:%d’ request length ‘%d’", key, mmc->host, mmc->port, mmc->outbuf.len)); 
  40. } 
  41. } 
  42. zend_hash_move_forward_ex(Z_ARRVAL_P(keys), &pos); 
  43. } 
  44. …… 
  45. } while (result_status < 0 && MEMCACHE_G(allow_failover) && i++ < MEMCACHE_G(max_failover_attempts)); 
  46. ...... 
  47. return result_status; 
  48. } 
  49. [/cc] 


由上可见分布式hash的核心函数皆为mmc_pool_find，首先找到key对应的服务器资源，然后根据服务器资源请求数据。


至此，memcache_get的过程结束。


5.向缓存服务器删除已保存的数据


对应的php代码：


 


  1. [cc lang="php"] 
  2. $mmc->delete(‘key’); 
  3. [/cc] 


由之前的分析可知，delete对应的为memcache_delete：


 


  1. [cc lang="c"] 
  2. /* {{{ proto bool memcache_delete( object memcache, string key [, int expire ]) 
  3. Deletes existing item */ 
  4. PHP_FUNCTION(memcache_delete) 
  5. { 
  6. mmc_t *mmc; 
  7. mmc_pool_t *pool; 
  8. int result = -1, key_len; 
  9. zval *mmc_object = getThis(); 
  10. char *key; 
  11. long time = 0; 
  12. char key_tmp[MMC_KEY_MAX_SIZE]; 
  13. unsigned int key_tmp_len; 
  14. if (mmc_object == NULL) { 
  15. if (zend_parse_parameters(ZEND_NUM_ARGS() TSRMLS_CC, "Os|l", &mmc_object, memcache_class_entry_ptr, &key, &key_len, &time) == FAILURE) { 
  16. return; 
  17. } 
  18. } 
  19. else { 
  20. if (zend_parse_parameters(ZEND_NUM_ARGS() TSRMLS_CC, "s|l", &key, &key_len, &time) == FAILURE) { 
  21. return; 
  22. } 
  23. } 
  24. if (!mmc_get_pool(mmc_object, &pool TSRMLS_CC) || !pool->num_servers) { 
  25. RETURN_FALSE; 
  26. } 
  27. if (mmc_prepare_key_ex(key, key_len, key_tmp, &key_tmp_len TSRMLS_CC) != MMC_OK) { 
  28. RETURN_FALSE; 
  29. } 
  30. // 先获得服务器资源 
  31. while (result < 0 && (mmc = mmc_pool_find(pool, key_tmp, key_tmp_len TSRMLS_CC)) != NULL) { 
  32. // 根据资源向缓存服务器发送请求删除存储的数据 
  33. if ((result = mmc_delete(mmc, key_tmp, key_tmp_len, time TSRMLS_CC)) < 0) { 
  34. mmc_server_failure(mmc TSRMLS_CC); 
  35. } 
  36. } 
  37. if (result > 0) { 
  38. RETURN_TRUE; 
  39. } 
  40. RETURN_FALSE; 
  41. } 
  42. /* }}} */ 
  43. [/cc] 


至此，memcache_delete过程结束。


本站文章皆为转载，出处：http://blog.liubijian.com/php_memcache_code_analysis.html


... other posts by lbj