服务器TIME_WAIT和CLOSE_WAIT分析和解决办法

转载自知乎-服务器TIME_WAIT和CLOSE_WAIT详解和解决办法

发现问题

在服务器的日常维护过程中,会经常用到下面的命令:

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'   

它会显示例如下面的信息:

TIME_WAIT 814
CLOSE_WAIT 1
FIN_WAIT1 1
ESTABLISHED 634
SYN_RECV 2
LAST_ACK 1

常用的三个状态是:ESTABLISHED表示正在通信,TIME_WAIT表示主动关闭,CLOSE_WAIT表示被动关闭。

 

 

 

这么多状态不用都记住,只要了解到我上面提到的最常见的三种状态的意义就可以了。一般不到万不得已的情况也不会去查看网络状态,如果服务器出了异常,百分之八九十都是下面两种情况:

1.服务器保持了大量TIME_WAIT状态

2.服务器保持了大量CLOSE_WAIT状态

因为linux分配给一个用户的文件句柄是有限的(可以参考:),而TIME_WAITCLOSE_WAIT两种状态如果一直被保持,那么意味着对应数目的通道就一直被占着,而且是“占着茅坑不使劲”,一旦达到句柄数上限,新的请求就无法被处理了,接着就是大量Too Many Open Files异常,WEB服务崩溃。。。

解决方案

1.服务器保持了大量TIME_WAIT状态

这种情况比较常见,一些爬虫服务器或者WEB服务器(如果网管在安装的时候没有做内核参数优化的话)上经常会遇到这个问题,这个问题是怎么产生的呢?

从 上面的示意图可以看得出来,TIME_WAIT是主动关闭连接的一方保持的状态,对于爬虫服务器来说他本身就是“客户端”,在完成一个爬取任务之后,他就会发起主动关闭连接,从而进入TIME_WAIT的状态,然后在保持这个状态2MSL(max segment lifetime)时间之后,彻底关闭回收资源。为什么要这么做?明明就已经主动关闭连接了为啥还要保持资源一段时间呢?这个是TCP/IP的设计者规定 的,主要出于以下两个方面的考虑:

  • 可靠关闭:假设最后的一个ACK丢失,那么被动关闭一方收不到这最后一个ACK则会重发FIN
  • 不影响下一次连接:本次连接产生的报文在网络中完全消失

解决思路:

很简单,就是让服务器能够快速回收和重用那些TIME_WAIT的资源。

下面来看一下我对/etc/sysctl.conf文件的修改:

1.  #对于一个新建连接,内核要发送多少个 SYN 连接请求才决定放弃,不应该大于255,默认值是5,对应于180秒左右时间   
2.  net.ipv4.tcp_syn_retries=2  
3.  #net.ipv4.tcp_synack_retries=2  
4.  #表示当keepalive起用的时候,TCP发送keepalive消息的频度。缺省是2小时,改为300秒  
5.  net.ipv4.tcp_keepalive_time=1200  
6.  net.ipv4.tcp_orphan_retries=3  
7.  #表示如果套接字由本端要求关闭,这个参数决定了它保持在FIN-WAIT-2状态的时间  
8.  net.ipv4.tcp_fin_timeout=30    
9.  #表示SYN队列的长度,默认为1024,加大队列长度为8192,可以容纳更多等待连接的网络连接数。  
10.  net.ipv4.tcp_max_syn_backlog = 4096  
11.  #表示开启SYN Cookies。当出现SYN等待队列溢出时,启用cookies来处理,可防范少量SYN攻击,默认为0,表示关闭  
12.  net.ipv4.tcp_syncookies = 1  

14.  #表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接,默认为0,表示关闭  
15.  net.ipv4.tcp_tw_reuse = 1  
16.  #表示开启TCP连接中TIME-WAIT sockets的快速回收,默认为0,表示关闭  
17.  net.ipv4.tcp_tw_recycle = 1  

19.  ##减少超时前的探测次数   
20.  net.ipv4.tcp_keepalive_probes=5   
21.  ##优化网络设备接收队列   
22.  net.core.netdev_max_backlog=3000   

修改完之后执行/sbin/sysctl -p让参数生效。

这里头主要注意到的是

net.ipv4.tcp_tw_reuse
net.ipv4.tcp_tw_recycle
net.ipv4.tcp_fin_timeout
net.ipv4.tcp_keepalive_*

表示的意思是:

net.ipv4.tcp_tw_reuse和net.ipv4.tcp_tw_recycle的开启都是为了回收处于TIME_WAIT状态的资源。 

net.ipv4.tcp_fin_timeout这个时间可以减少在异常情况下服务器从FIN-WAIT-2转到TIME_WAIT的时间。 

net.ipv4.tcp_keepalive_*一系列参数,是用来设置服务器检测连接存活的相关配置。 

2.服务器保持了大量CLOSE_WAIT状态

TIME_WAIT状态可以通过优化服务器参数得到解决,因为发生TIME_WAIT的情况是服务器自己可控的,要么就是对方连接的异常,要么就是自己没有迅速回收资源,总之不是由于自己程序错误导致的。

但是CLOSE_WAIT就不一样了,从上面的图可以看出来,如果一直保持在CLOSE_WAIT状态,那么只有一种情况,就是在对方关闭连接之后服务器程序自己没有进一步发出ack信号

还是使用开头那个例子:

服务器A是一台爬虫服务器,它使用简单的HttpClient去请求资源服务器B上面的apache获取文件资源,正常情况下,如果请求成功,那么在抓取完资源后,服务器A会主动发出关闭连接的请求,这个时候就是主动关闭连接,服务器A的连接状态我们可以看到是TIME_WAIT。如果一旦发生异常呢?假设请求的资源服务器B上并不存在,那么这个时候就会由服务器B发出关闭连接的请求,服务器A就是被动的关闭了连接,如果服务器A被动关闭连接之后程序员忘了让HttpClient释放连接,那就会造成CLOSE_WAIT的状态了。

所以如果将大量CLOSE_WAIT的解决办法总结为一句话那就是:查代码。因为问题出在服务器程序里头啊。

posted @ 2020-03-27 09:51  Rogn  阅读(142)  评论(0编辑  收藏