PHP-FPM模式下可怕的 MongoDB-PHP-Driver 连接池无节制连接问题

@郑昀汇总 创建日期:2013/1
 
问题发生环境:
  • Nginx
  • PHP 5.3.10 as php-fpm extension to nginx
  • mongodb-php-driver 1.2.12
  • MongoDB 2.2
此问题是 MongoDB PHP Driver 1.2.x 的官方特性导致的,描述请看 PHP-202 和  PHP-347 。简单地说,PHP-FPM模式下,每一个 PHP Worker 进程都有自己独立的 mongodb 连接池,从而导致连接数极易超标,内存数也随之倍增。
 
一,PHP服务背景:
某个 Web 应用是通过 Nginx+factcgi 运行的 PHP 程序提供服务的。
PHP-FPM的最大子进程数,是通过 php-fpm.conf 的 max_children 参数设置的(或pm=dynamic时由 spare_servers+start_servers 参数综合决定)。这个值曾被设置为512
 
二,MongoDB服务背景:
mongodb 实例的最大连接数限制可以通过启动参数中的 maxConns 设置:
  • maxConns:默认值取决于系统的限制(如 ulimit 和 file descriptor)。如果没设置这个参数, mongodb 自己不会限制连接数。但,你不能设置超过 20,000 。
一般不刻意设置 maxConns 参数。
 
三,MongoDB PHP Driver 的可怕连接池特性(BUG?)
MongoDB 官方提供的 mongodb-php-driver 在 1.3.0 以下版本(1.2.0~1.2.1x),拥有一个可怕的连接池实现方案,在执行任何查询时,都会从连接池中请求一个连接,完成之后再归还给连接池。这里的完成是指持有该连接的变量离开了它的作用域。
 
PHP-FPM模式下,一个 PHP Web 应用能对 MongoDB instance 建立的并发连接数计算方式如下:
  • 进程数:max-children = 512 ,那么是 512 个进程
  • 一个MongoDB实例对应一个连接池:主站配置了165和166两个副本集实例;
  • 连接池中的连接数:mongodb-php-driver 对此不做任何限制,可以无限增加直到句柄耗尽为止。
——————郑昀:此计算方式出自 mongo.connecting.pools ——————
根据 mongodb 官方文档说明,虽然连接数无限增长理论上是有可能的,但实际观测发现,一个 Web Server 与一个 mongodb 实例的连接数通常会稳定在一个值上,不会有太大的起伏
那么,假设一个 PHP Web 应用向 mongodb-165 发起的连接数为
750 个,
该 MongoDB 实例为此需要维护的内存数至少为:
750 × 默认10MB = 7.5 GB
 
五,解决办法
迅速升级到 mongodb-php driver 1.3.2。
 
参考文档:
1)2012-12-9,Connection Handling with the MongoDB PHP driver,英文稿中文翻译稿
2)李丹的测试结果:
“再测试一下驱动升级到1.3.2稳定版后的ab结果,发现close效果很明显,很快的连接数就下降到测试之前的数量了。虽然在峰值上大于老的驱动,但是应该可以解决现有线上的高连接持续的问题。”
4)mongodb-java-driver 定义了一个应用与 mongodb 实例能建立的最大连接数,即 (connectionsPerHost × threadsAllowedToBlockForConnectionMultiplier)个连接:
  • mongo.options.connectionsPerHost:每个Application与 MongoDB 实例能建立的最大物理连接数,默认是10;
  • mongo.options.threadsAllowedToBlockForConnectionMultiplier:可以等待池中有连接可用的最大线程数,默认是5。
5)crazyshell,2012,MongoDB maxConns参数

赠图几枚:
http://ww4.sinaimg.cn/large/61b889f5jw1e0noudfng5j.jpg
 
posted @ 2013-01-15 01:23  旁观者  阅读(...)  评论(... 编辑 收藏