一、linux的文件描述符

   文件描述符(FD:file descriptors),也可以说是文件句柄,当某个程序打开文件时,内核返回相应的文件描述符,程序为了处理该文件必须引用此描述符。文件描述符是一个正整数,用以标明每一个被进程所打开的文件和socket。最前面的三个文件描述符(0,1,2)分别与标准输入(stdin),标准输出(stdout)和标准错误(stderr)对应,后面打开的文件依此类推对应3、4…… 。

 

    linux系统对每个用户、进程、或整个系统的可打开文件描述符数量都有一个限制,一般默认为1024。当我们在系统或应用的日志中碰到“too many open files”错误记录时,这个其实不是说打开的文件过多,而是打开的文件描述符数量已达到了限制,这时就需要增加文件描述符的数量限制了。

 

1.1 获取系统打开的文件描述符数量

    [root@localhost ~]# cat /proc/sys/fs/file-nr 

    1216    0       197787

     //第一列 1216   :为已分配的FD数量

     //第二列 0          :为已分配但尚未使用的FD数量

     //第三列197787:为系统可用的最大FD数量

    已用FD数量=为已分配的FD数量 - 为已分配但尚未使用的FD数量。注意,这些数值是系统层面的。

 

1.2 获取进程打开的文件描述符数量

    [root@localhost ~]# pidof vim

      3253

    [root@localhost ~]# ll /proc/3253/fd

     总用量 0

    lrwx------. 1 test test 64  6月  8 18:11 0 -> /dev/pts/0

    lrwx------. 1 test test 64  6月  8 18:11 1 -> /dev/pts/0

    lrwx------. 1 test test 64  6月  8 18:11 2 -> /dev/pts/0

    lrwx------. 1 test test 64  6月  8 18:11 4 -> /home/test/.bash_history.swp

   

    //可以看到vim进程用了4个FD

 

1.3 更改文件描述符限制

    当碰到“too many open files”错误时,就需要增加文件描述符的限制数量,系统的默认文件描述符都比较大,一般来说,只需增加用户或进程的就可以了

    //用户或进程

    [root@localhost ~]# ulimit -n

     1024

    [root@localhost ~]# ulimit -n 10240

    [root@localhost ~]# ulimit -n

     10240 

注意,使用ulimit 命令更改后只是在当前会话生效,当退出当前会话重新登录后又会回到默认值1024,要永久更改可以修改文件 /etc/security/limit.conf,如

   [root@localhost ~]#vi /etc/security/limits.conf 

   加入 “abc hard nofile 10240”

   abc:用户名,即允许test使用ulimit命令更改FD限制,最大值不超过10240,更改后abc用户的每一个进程(以abc用户运行的进程)可打开的FD数量为10240个

   hard:限制类型,有soft/hard两种,达到soft限制会在系统的日志(一般为/var/log/messages)里面记录一条告警日志,但不影响使用。hard,达到这个限制,有日志且会影响使用。

   nofile:限制的内容,nofile - max number of open files

   1024 :值

更改后,退出终端重新登录,用ulimit看看有没有生效,如果没生效,可以在abc用户的.bash_profile文件加上 ulimit -n 10240 ,以使用户abc每次登录时都会将FD最大值更改为10240,如:

   [root@localhost ~]#echo "ulimit -n 10240" >> /home/abc/ .bash_profile

    10240

   [root@localhost ~]# su - abc

   [abc@localhost ~]$ ulimit -n

    10240

 

limit.conf文件里面本身已有很详细的使用方法,这个下次可以说说。

 

      //系统级别

 将整个操作系统可以使用的FD数量更改为51200

     [root@localhost ~]# echo "51200" > /proc/sys/fs/file-max

     [root@localhost ~]# cat /proc/sys/fs/file-nr

     1184    0       51200

像这样更改在系统重启后会恢复到默认值,要永久更改可以在sysctl.conf文件加上fs.file-max = 51200

如:

    [root@localhost ~]# echo "fs.file-max = 51200" >> /etc/sysctl.conf

二、获取打开的文件数量

linux的一切皆为文件,那么如何知道系统/应用打开了哪些或是多少个文件呢?很简单,用lsof命令就行了,lsof,list  open files的简写,可列出程序或系统正在使用的文件。

 

2.1 获取整个系统打开的文件数量

     [root@localhost ~]# lsof |wc -l

       1864

2.2 获取某个用户打开的文件数量 

    [root@localhost ~]# lsof -u test |wc -l

       15

2.3 获取某个程序打开的文件数量 

   [root@localhost ~]# pidof vim

      3253

    [root@localhost ~]# lsof -p 3253 |wc -l

      31

上面所示只是用lsof来显示已打开的文件数量,lsof的功能远不止这些,有兴趣可以man lsof看一下 

 

三、进程打开的文件描述符与文件

如前面说的,为什么说“too many open files”错误不是说打开的文件过多,而是打开的文件描述符数量已达到了限制,这个简单的可以用man ulimit就可得知

[abc@localhost ~]$   man ulimit 

//找到ulimit,可以看到下列一行

-n   The maximum number of open file descriptors (most systems do not allow this value to be set)

这行就说明了用ulimit -n xxx 更改的是文件描述符而不是文件的最大值。

 

 我们可以来测试一下:

  •  打开一个进程vim,获取vim打开的文件及文件描述符数量

[abc@localhost ~]$ lsof -p 3330 |wc -l //文件数量

31

[abc@localhost ~]$ ls /proc/3330/fd |wc -l  //文件描述符数量

4

[abc@localhost ~]$ killall -9 vim

[1]+  已杀死               vim .bash_profile

[abc@localhost ~]$ ulimit -n 20

  • 更改限制,并测试vim的运行情况

[abc@localhost ~]$ ulimit -n 20 //更改为20,即小于文件数量31

[abc@localhost ~]$ ulimit -n

20

[abc@localhost ~]$ vim .bash_profile //可看到vim可以正常打开文件

# .bash_profile

# Get the aliases and functions

if [ -f ~/.bashrc ]; then

        . ~/.bashrc

fi

# User specific environment and startup programs

PATH=$PATH:$HOME/bin

export PATH

ulimit -n 10240

----------------------------------

[abc@localhost ~]$ ulimit -n 3    //更改为3,即小于FD数量4

[abc@localhost ~]$ ulimit -n

3

[abc@localhost ~]$ vim .bash_profile   

-bash: start_pipeline: pgrp pipe: Too many open files 

vim: error while loading shared libraries: libselinux.so.1: cannot open shared object file: Error 24

 

从上面可看到小于文件描述符的数值时即报“Too many open files”错误,那么这个应该可以说明这个“Too many open files”错误是是打开的文件描述符数量已达到了限制所引起的,跟打开的文件数量没有关系。

 

另用lsof可知道进程都打开了哪些文件和文件描述符:

[abc@localhost ~]$ lsof -p 3330

COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF   NODE NAME

vim     3555  abc  cwd    DIR  253,0     4096 923587 /home/abc

vim     3555  abc  rtd    DIR  253,0     4096      2 /

vim     3555  abc  txt    REG  253,0  1971360 287900 /usr/bin/vim

vim     3555  abc  mem    REG  253,0   155696    846 /lib64/ld-2.12.so

vim     3555  abc  mem    REG  253,0    26104 281208 /usr/lib64/libgpm.so.2.1.0

vim     3555  abc  mem    REG  253,0  1912928    847 /lib64/libc-2.12.so

vim     3555  abc  mem    REG  253,0    22536    852 /lib64/libdl-2.12.so

vim     3555  abc  mem    REG  253,0   145672    859 /lib64/libpthread-2.12.so

vim     3555  abc  mem    REG  253,0   598816    848 /lib64/libm-2.12.so

vim     3555  abc  mem    REG  253,0   124624    857 /lib64/libselinux.so.1

vim     3555  abc  mem    REG  253,0   113904    856 /lib64/libresolv-2.12.so

vim     3555  abc  mem    REG  253,0  1489600 406575 /usr/lib64/perl5/CORE/libperl.so

vim     3555  abc  mem    REG  253,0   142504     96 /lib64/libncurses.so.5.7

vim     3555  abc  mem    REG  253,0    34336    890 /lib64/libacl.so.1.1.0

vim     3555  abc  mem    REG  253,0    43392    869 /lib64/libcrypt-2.12.so

vim     3555  abc  mem    REG  253,0   387880    868 /lib64/libfreebl3.so

vim     3555  abc  mem    REG  253,0  1753952 271694 /usr/lib64/libpython2.6.so.1.0

vim     3555  abc  mem    REG  253,0    17520    886 /lib64/libutil-2.12.so

vim     3555  abc  mem    REG  253,0   138280    826 /lib64/libtinfo.so.5.7

vim     3555  abc  mem    REG  253,0    20280    887 /lib64/libattr.so.1.1.0

vim     3555  abc  mem    REG  253,0   116136    889 /lib64/libnsl-2.12.so

vim     3555  abc  mem    REG  253,0    61624     42 /lib64/libnss_files-2.12.so

vim     3555  abc  mem    REG  253,0    26050 265158 /usr/lib64/gconv/gconv-modules.cache

vim     3555  abc  mem    REG  253,0   124855 528606 /usr/share/vim/vim72/lang/zh_CN/LC_MESSAGES/vim.mo

vim     3555  abc  mem    REG  253,0   135533 528604 /usr/share/vim/vim72/lang/zh_CN.UTF-8/LC_MESSAGES/vim.mo

vim     3555  abc  mem    REG  253,0 99158752 264902 /usr/lib/locale/locale-archive

vim     3555  abc    0u   CHR  136,0      0t0      3 /dev/pts/0

vim     3555  abc    1u   CHR  136,0      0t0      3 /dev/pts/0

vim     3555  abc    2u   CHR  136,0      0t0      3 /dev/pts/0

vim     3555  abc    4u   REG  253,0     4096 923589 /home/abc/.bash_profile.swp

 

可看到运行vim时,打开了很多个文件,但文件描述符只有后面四个。

posted on 2016-03-28 17:08  知识天地  阅读(13007)  评论(0编辑  收藏  举报