零拷贝

        零拷贝（Zero-Copy）是一种 I/O 操作优化技术，快速高效地将数据从文件系统移动到网络接口，不需要将其从内核空间复制到用户空间。在 FTP 或者 HTTP 等协议中可以显著地提升性能。需要注意，并不是所有的操作系统都支持这一特性，目前只有在使用 NIO 和 Epoll 传输时才可使用该特性。不能用于实现了数据加密或者压缩的文件系统上，只有传输文件的原始内容。这类原始内容也包括加密了的文件内容。

传统I/O操作

　　将磁盘上的文件读取出来，然后通过网络协议发送给客户端。一般会需要两个系统调用：

read(file, tmp_buf, len);
write(socket, tmp_buf, len);

　　

　　期间共发生了 4 次用户态与内核态的上下文切换，因为发生了两次系统调用，一次是 read() ，一次是 write()，每次系统调用都得先从用户态切换到内核态，等内核完成任务后，再从内核态切换回用户态。

　　上下文切换到成本并不小，一次切换需要耗时几十纳秒到几微秒，虽然时间看上去很短，但是在高并发的场景下，这类时间容易被累积和放大，从而影响系统的性能。发生了 4 次数据拷贝，其中两次是 DMA 的拷贝，另外两次则是通过 CPU 拷贝：

• 第一次拷贝，把磁盘上的数据拷贝到操作系统内核的缓冲区，拷贝的过程是通过 DMA 搬运。
• 第二次拷贝，把内核缓冲区的数据拷贝到用户缓冲区里，于是应用程序就可以使用这部分数据，拷贝到过程是由 CPU 完成的。
• 第三次拷贝，把刚才拷贝到用户缓冲区里的数据，再拷贝到内核的 socket 的缓冲区里，这个过程依然还是由 CPU 搬运的。
• 第四次拷贝，把内核的 socket 缓冲区里的数据，拷贝到网卡的缓冲区里，这个过程又是由 DMA 搬运的。

　　要想提高文件传输的性能，就需要减少「用户态与内核态的上下文切换」和「内存拷贝」的次数。

零拷贝技术原理

　　零拷贝主要技术有 mmap+write、sendfile和splice等几种方式。

虚拟内存

　　现代操作系统都使用虚拟内存，使用虚拟地址取代物理地址，主要有以下几点好处：

多个虚拟内存可以指向同一个物理地址。
虚拟内存空间可以远远大于物理内存空间。

　　利用上述的第一条特性可以优化，可以把内核空间和用户空间的虚拟地址映射到同一个物理地址，这样在 I/O 操作时就不需要来回复制了。

　　

mmap/write 方式

　　使用mmap/write方式替换原来的传统I/O方式，就是利用虚拟内存的特性。下图展示mmap/write原理：

　　

 

 　　整个流程核心就是，把数据读取到内核缓冲区后，应用程序进行写入操作时，直接把内核的Read Buffer的数据复制到Socket Buffer以便写入，这次内核之间的复制也是需要CPU的参与。

　　上述流程就是少了一个 CPU COPY，提升了 I/O 的速度。不过发现上下文的切换还是4次并没有减少，这是因为还是要应用程序发起write操作。

sendfile 方式

　　sendfile方式可以替换上面的mmap/write方式来进一步优化。sendfile将以下操作：

  mmap();
  write();

　　替换为：

 sendfile();

　　就减少了上下文切换，因为少了一个应用程序发起write操作，直接发起sendfile操作。

　　

 

 　　sendfile方式只有三次数据复制（其中只有一次 CPU COPY）以及2次上下文切换。能不能把 CPU COPY 减少到没有呢？这样需要带有 scatter/gather的sendfile方式了

带有 scatter/gather 的 sendfile方式

　　Linux 2.4 内核进行了优化，提供了带有 scatter/gather 的 sendfile 操作，这个操作可以把最后一次 CPU COPY 去除。其原理就是在内核空间 Read BUffer 和 Socket Buffer 不做数据复制，而是将 Read Buffer 的内存地址、偏移量记录到相应的 Socket Buffer 中，这样就不需要复制。其本质和虚拟内存的解决方法思路一致，就是内存地址的记录。

　　

 

 　　scatter/gather 的 sendfile 只有两次数据复制（都是 DMA COPY）及 2 次上下文切换。CUP COPY 已经完全没有。不过这一种收集复制功能是需要硬件及驱动程序支持的。

splice 方式

　　用户应用程序必须拥有两个已经打开的文件描述符，一个表示输入设备，一个表示输出设备。与sendfile不同的是，splice允许任意两个文件互相连接，而并不只是文件与socket进行数据传输。对于从一个文件描述符发送数据到socket这种特例来说，一直都是使用sendfile系统调用，而splice一直以来就只是一种机制，它并不仅限于sendfile的功能。也就是说 sendfile 是 splice 的一个子集。