设想一个场景:有100万用户同时与一个进程保持着TCP连接,而每一时刻只有几十个或几百个TCP连接是活跃的(接收TCP包),也就是说在每一时刻进程只需要处理这100万连接中的一小部分连接。那么,如何才能高效的处理这种场景呢?进程是否在每次询问操作系统收集有事件发生的TCP连接时,把这100万个连接告诉操作系统,然后由操作系统找出其中有事件发生的几百个连接呢?实际上,在Linux2.4版本以前,那时的select或者poll事件驱动方式是这样做的。

这里有个非常明显的问题,即在某一时刻,进程收集有事件的连接时,其实这100万连接中的大部分都是没有事件发生的。因此如果每次收集事件时,都把100万连接的套接字传给操作系统(这首先是用户态内存到内核态内存的大量复制),而由操作系统内核寻找这些连接上有没有未处理的事件,将会是巨大的资源浪费,然后select和poll就是这样做的,因此它们最多只能处理几千个并发连接。而epoll不这样做,它在Linux内核中申请了一个简易的文件系统,把原先的一个select或poll调用分成了3部分:

1)调用epoll_create建立一个epoll对象(在epoll文件系统中给这个句柄分配资源);

2)调用epoll_ctl向epoll对象中添加这100万个连接的套接字;

3)调用epoll_wait收集发生事件的连接;

这样只需要在进程启动时建立1个epoll对象,并在需要的时候向它添加或删除连接就可以了,因此,在实际收集事件时,epoll_wait的效率就会非常高,因为调用epoll_wait时并没有向它传递这100万个连接,内核也不需要去遍历全部的连接。

那么Linux内核将如何实现以上的想法呢?下面以Linux内核2.6.35版本为例,简单说明一下epoll是如何高效处理事件的。

当某一进程调用epoll_create方法时,Linux内核会创建一个eventpoll结构体,这个结构体中有两个成员与epoll的使用方式密切相关,如下所示:

struct eventpoll {

  ...

  /*红黑树的根节点,这棵树中存储着所有添加到epoll中的事件,也就是这个epoll监控的事件*/

  struct rb_root rbr;

  /*双向链表rdllist保存着将要通过epoll_wait返回给用户的、满足条件的事件*/

  struct list_head rdllist;

  ...

};

每一个epoll对象都有一个独立的eventpoll结构体,这个结构体会在内核空间中创造独立的内存,用于存储使用epoll_ctl方法向epoll对象中添加进来的事件。这些事件都会挂到rbr红黑树中,这样重复添加的事件就可以通过红黑树而高效的识别出来(epoll_ctl方法很快)。

所有添加到epoll中的事件都会与设备(如网卡)驱动程序建立回调关系,也就是说相应事件的发生时会调用这里的回调方法。这个回调方法在内核中叫做ep_poll_callback,它会把这样的事件放到上面的rdllist双向链表中。

在epoll中对于每一个事件都会建立一个epitem结构体,如下所示:

struct epitem {

  ...

  //红黑树节点

  struct rb_node rbn;

  //双向链表节点

  struct list_head rdllink;

  //事件句柄等信息

  struct epoll_filefd ffd;

  //指向其所属的eventepoll对象

  struct eventpoll *ep;

  //期待的事件类型

  struct epoll_event event;

  ...

};

这里包含每一个事件对应着的信息。

当调用epoll_wait检查是否有发生事件的连接时,只是检查eventpoll对象中的rdllist双向链表是否有epitem元素而已,如果rdllist链表不为空,则这里的事件复制到用户态内存中,同时将事件数量返回给用户。因此epoll_waitx效率非常高。epoll_ctl在向epoll对象中添加、修改、删除事件时,从rbr红黑树中查找事件也非常快,也就是说epoll是非常高效的,它可以轻易地处理百万级别的并发连接。

总结:

1)epoll_create创建一个epoll对象,该对象有一个eventpoll结构体,结构体中含有关键成员:存放epoll中的事件的红黑树根节点rbr、保存epoll_wait返回的事件的双向链表rdllist;

2)epoll_ctl方法向epoll对象中注册事件,将epitem添加到rbr中,事件与设备驱动程序建立回调关系,事件发生调用回调方法,将发生的事件添加到rdllist中;

3)epoll_wait检查rdllist双向链表;

4)与select和poll的区别:

select和poll每次收集事件时都会把所有的fd传给操作系统内核,首先是用户态内存到内核态内存的大量复制,然后系统内核轮询所有fd有没有未处理的事件,浪费资源。

posted on 2016-03-28 15:25  pluser  阅读(1317)  评论(0编辑  收藏  举报