GO多路复用

文件描述符

  • Linux下，一切皆文件。包括普通文件、目录文件、字符设备文件（键盘、鼠标）、块设备文件（硬盘、光驱）、套接字socket等等

  • 文件描述符(File descriptor,FD)是访问文件资源的抽象句柄，读写文件都要通过它

  • 文件描述符就是个非负整数，每个进程默认都会打开3个文件描述符：0标准输入、1标准输出、2标准错误

  • 由于内存限制。文件描述符是有上限的，可以通过ulimit -n查看，文件描述符用完后应及时关闭

  • 五种IO模型和三种实现方式

    I/O介绍

    操作系统分为两种I/O

    • 网络IO：本质是socket读取
    • 磁盘IO：DMA操作读取

    每次I/O过程

    1. (DMA)将数据从磁盘文件先加载至内核内存空间(缓冲区)，等待数据准备完成，时间较长
    2. (CPU)将数据从内核缓冲区复制到用户空间的进程的内存中，时间较短

    I/O模型

    同步/异步：关注的是消息通信机制

    • 同步：synchronous，调用者等待被调用者返回消息，才能继续执行
    • 异步：asynchronous，被调用者通过状态、通知或回调机制主动通知调用者被调用者的运行状态

    阻塞/非阻塞：关注调用者在等待结果返回之前所处的状态

    • 阻塞：blocking，指IO操作需要彻底完成后才返回到用户空间，调用结果返回之前，调用者被挂起
    • 非阻塞：nonblocking，指IO操作被调用后立即返回给用户一个状态值，无需等到IO操作彻底完成，最终的调用结果返回之前，调用者不会被挂起

    五种I/O模型：

    • 同步阻塞型、同步非阻塞型、IO多路复用型、信号驱动I/O型、异步I/O型

    同步阻塞型

    • 同步阻塞IO模型是最简单的IO模型，用户线程在内核进行IO操作时被阻塞
    • 用户线程通过系统调用read发起IO读操作，由用户空间转到内核空间。内核等到数据包到达后，然后将接收的数据拷贝到用户空间，完成read操作
    • 用户需要等待read将数据读取到buffer后，才继续处理接收的数据。整个IO请求的过程中，用户线程是被阻塞的，这导致用户在发起IO请求时，不能做任何事情，对CPU的资源利用率不够

    同步非阻塞模型

    • 用户线程发起IO请求时立即返回。但并未读取到任何数据，用户线程需要不断地发起IO请求，直到数据到达后，才真正读取到数据，继续执行。即“轮询”机制
    • 整个IO请求的过程中，虽然用户线程每次发起IO请求后可以立即返回，但是为了等到数据，仍需要不断地轮询、重复请求，消耗了大量的CPU的资源
    • 是比较浪费CPU的方式，一般很少直接使用这种模型，而是在其他IO模型中使用非阻塞IO这一特性

    IO多路复用型

    • IO多路复用是指内核一旦发现进程指定的一个或者多个IO条件准备读取，就通知该进程
    • 多个连接共用一个等待机制，本模型会阻塞进程，但是进程是阻塞在select或者poll这两个系统调用上，而不是阻塞在真正的IO操作上
    • 用户首先将需要进行IO操作添加到select中，继续执行做其他的工作（异步），同时等待select系统调用返回。当数据到达时，IO被激活，select函数返回。用户线程正式发起read请求，读取数据并继续执行
    • 从流程上来看，使用select函数进行IO请求和同步阻塞模型没有太大的区别，甚至还多了添加监视IO，以及调用select函数的额外操作，效率更差。并且阻塞了两次，但是第一次阻塞在select上时，select可以监控多个IO上是否已有IO操作准备就绪，即可达到在同一个线程内同时处理多个IO请求的目的。而不像阻塞IO那种，一次只能监控一个IO
    • 虽然上述方式允许单线程内处理多个IO请求，但是每个IO请求的过程还是阻塞的（在select函数上阻塞），平均时间甚至比同步阻塞IO模型还要长。如果用户线程只是注册自己需要的IO请求，然后去做自己的事情，等到数据到来时再进行处理，则可以提高CPU的利用率
    • IO多路复用是最常使用的IO模型，但是其异步程度还不够“彻底”，因它使用了会阻塞线程的select系统调用。因此IO多路复用只能称为异步阻塞IO模型，而非真正的异步IO

    信号驱动I/O型

    • 信号驱动IO：signal-driven I/O
    • 用户进程可以通过sigaction系统调用注册一个信号处理程序，然后主程序可以继续向下执行，当有IO操作准备就绪时，由内核通知触发一个SIGIO信号处理程序执行，然后将用户进程所需要的数据从内核空间拷贝到用户空间
    • 此模型的优势在于等待数据报到达期间进程不被阻塞。用户主程序可以继续执行，只要等待来自信号处理函数的通知
    • 该模型并不常用

    异步I/O型

    • 异步IO与信号驱动IO最主要的区别是信号驱动IO是由内核通知何时可以进行IO操作，而异步IO则是由内核告诉用户线程IO操作何时完成。信号驱动IO当内核通知触发信号处理程序时，信号处理程序还需要阻塞在从内核空间缓冲区复制数据到用户空间缓冲区这个阶段，而异步IO直接是在第二个阶段完成后，内核直接通知用户线程可以进行后续操作了
    • 相比于IO多路复用模型，异步IO并不十分常用，不少高性能并发服务程序使用IO多路复用模型+多线程任务处理的架构基本可以满足需求。目前操作系统对异步IO的支持并非特别完善，更多的是采用IO多路复用模型模拟异步IO的方式(IO事件触发时不直接通知用户线程，而是将数据读写完毕后放到用户指定的缓冲区中)

    五种I/O模型

    常用的是IO多路复用型，比如Nginx

    Untitled

    实现I/O模型的方式

    • Select：Linux实现对应，I/O复用模型，BSD4.2最早实现，POSIX标准，一般操作系统均有实现
    • Poll：Linux实现，对应I/O复用模型，System V unix最早实现
    • Epoll：Linux特有，对应I/O复用模型，具有信号驱动I/O模型的某些特性
    • Kqueue：FreeBSD实现，对应I/O复用模型，具有信号驱动I/O模型某些特性
    • /dev/poll：SUN的Solaris实现，对应I/O复用模型，具有信号驱动I/O模型的某些特性
    • Iocp Windows实现，对应第5种（异步I/O）模型

    Apache使用的是Select，Nginx使用的是Epoll。所以Nginx支持C10K(10K Connections)

    Select Poll Poll
    操作方式 遍历 遍历 回调
    底层实现 数组 链表 哈希表
    IO效率 每次调用进行线性遍历，时间复杂度为O(n) 每次调用进行线性遍历，时间复杂度为O(n) 事件通知方式，每当fd就绪，系统注册的回调函数就会被调用，将就绪fd放到dllis里面，时间复杂度O(1)
    最大连接数 1024(x86)或2048(x64) 无上限 无上限
    fd拷贝 每次调用select，都需要把fd集合从用户态拷贝到内核态 每次调用poll，都需要把fd集合从用户态复制到内核态 调用epoll_ctl时复制进内核并保存，之后每次epoll_wait不复制

    Untitled

    POSIX所规定，目前几乎在所有的平台上支持，其良好跨平台支持也是它的一个优点，本质上是通过设置或者检查存放fd标志位的数据结构来进行下一步处理

    缺点：

    • 单个进程能够监视的文件描述符的数量存在最大限制，在Linux上一般为1024(多年生产环境得到的最佳值)，可以通过修改宏定义FD_SETSIZE，再重新编译内核实现，但是这样也会造成效率的降低
    • 单个进程可监视的fd数量被限制，默认是1024，修改此值需要重新编译内核
    • 对socket是线性扫描，即采用轮询的方法，效率较低
    • select 采取了内存拷贝方法来实现内核将 FD 消息通知给用户空间，这样一个用来存放大量fd的数据结构，这样会使得用户空间和内核空间在传递该结构时复制开销大

    Poll

    • 本质上和select没有区别，它将用户传入的数组拷贝到内核空间，然后查询每个fd对应的设备状态
    • 其没有最大连接数的限制，原因是它是基于链表来存储的
    • 大量的fd的数组被整体复制于用户态和内核地址空间之间，而不管这样的复制是不是有意义
    • poll特点是“水平触发”，如果报告了fd后，没有被处理，那么下次poll时会再次报告该fd
    • 边缘触发：只通知一次

    Epoll

    在Linux 2.6内核中提出的select和poll的增强版本

    • 支持水平触发LT和边缘触发ET，最大的特点在于边缘触发，它只告诉进程哪些fd刚刚变为就需态，并且只会通知一次
    • 使用“事件”的就绪通知方式，通过epoll_ctl注册fd，一旦该fd就绪，内核就会采用类似callback的回调机制来激活该fd，epoll_wait便可以收到通知

    优点：:

    • 没有最大并发连接的限制：能打开的FD的上限远大于1024(1G的内存能监听约10万个端口)，具体查看/proc/sys/fs/file-max，此值和系统内存大小相关
    • 效率提升：非轮询的方式，不会随着FD数目的增加而效率下降；只有活跃可用的FD才会调用callback函数，即epoll最大的优点就在于它只管理“活跃”的连接，而跟连接总数无关
    • 内存拷贝，利用mmap(Memory Mapping)加速与内核空间的消息传递；即epoll使用mmap减少复制开销

go多路复用

  • go多路复用函数以netpoll为前缀，针对不同的操作系统做了不同封装，以达到最优的性能
  • 在编译go语言时会根据目标平台选择特定的分支进行编译

**netpoll:**

  1. epoll
  2. kqueue
  3. solaries
  4. windows
  5. aix

go channel多路复用

  • ticker 定时任务
  • for 和 select 同时使用时，退出选项:
    • 用标签退出LOOP: break LOOP
    • goto
    • retur
package main

import (
	"fmt"
	"os"
	"time"
)

func CountDown(n int, countChan chan int, finishChan chan struct{}) {
	if n <= 0 {
		return
	}
	ticker := time.NewTicker(1 * time.Second) // 周期性执行任务使用-定时任务
	for {
		countChan <- n
		<-ticker.C // 类似sleep 1
		n--
		if n <= 0 {
			ticker.Stop() // 关闭ticker，否则内存泄漏
			finishChan <- struct{}{}
			break
		}
	}
}

// 监听键盘输入
func Abort(abortChan chan struct{}) {
	bs := make([]byte, 1)
	os.Stdin.Read(bs)
	abortChan <- struct{}{}
}

func main() {
	countChan := make(chan int)
	finishChan := make(chan struct{})
	abortChan := make(chan struct{})

	go CountDown(10, countChan, finishChan)
	go Abort(abortChan)

LOOP:
	for {
		select { // 同时监听3个channel
		case n := <-countChan:
			fmt.Println(n)
		case <-finishChan:
			fmt.Println("发射")
			break LOOP
		case <-abortChan:
			fmt.Println("abort")
			break LOOP
		}
	}

}

timeout

  • ctx, cancle := context.WithCancel(context.Background()) 调用cancel()将关闭ctx.Done()对应的管道
  • ctx, cancle := context.WithTimeout(context.Background(), time.Microsecond * 100) 调用cancel()或到达超时时间都将关闭ctx.Done()对应的管道
  • ctx.Done()管道关闭后读操作将立即返回
package main

import (
	"context"
	"fmt"
	"time"
)

func foo() {
	time.Sleep(2 * time.Second)
	return
}

func handleRequest(timeout time.Duration) bool {
	ctx, cancle := context.WithCancel(context.Background())

	fooChan := make(chan struct{}, 1)
	go func() {
		foo()
		fooChan <- struct{}{}
	}()

	go func() {
		time.Sleep(timeout)
		cancle() // 调用，关闭ctx
	}()

	select {
	case <-fooChan:
		fmt.Println("foo finish")
	case <-ctx.Done(): // 接口返回超时
		fmt.Println("timeout")
	}
	return true
}

func main() {
	handleRequest(3 * time.Second)
}
posted @ 2022-05-04 18:02  rxg456  阅读(260)  评论(0)    收藏  举报