零拷貝，從字面意思理解就是數(shù)據(jù)不需要來回的拷貝，大大提升了系統(tǒng)的性能。我們也經(jīng)常在 JAVA NIO，Netty，Kafka，RocketMQ 等框架中聽到零拷貝，它經(jīng)常作為其提升性能的一大亮點

下面從 I/O 的幾個概念開始，進而再分析零拷貝。

I/O 概念

緩沖區(qū)

緩沖區(qū)是所有 I/O 的基礎，I/O 講的無非就是把數(shù)據(jù)移進或移出緩沖區(qū)；進程執(zhí)行 I/O 操作，就是向操作系統(tǒng)發(fā)出請求，讓它要么把緩沖區(qū)的數(shù)據(jù)排干(寫)，要么填充緩沖區(qū)（讀）。

下面看一個 Java 進程發(fā)起 Read 請求加載數(shù)據(jù)大致的流程圖：

進程發(fā)起 Read 請求之后，內(nèi)核接收到 Read 請求之后，會先檢查內(nèi)核空間中是否已經(jīng)存在進程所需要的數(shù)據(jù)，如果已經(jīng)存在，則直接把數(shù)據(jù) Copy 給進程的緩沖區(qū)。

如果沒有內(nèi)核隨即向磁盤控制器發(fā)出命令，要求從磁盤讀取數(shù)據(jù)，磁盤控制器把數(shù)據(jù)直接寫入內(nèi)核 Read 緩沖區(qū)，這一步通過 DMA 完成。

接下來就是內(nèi)核將數(shù)據(jù) Copy 到進程的緩沖區(qū)；如果進程發(fā)起 Write 請求，同樣需要把用戶緩沖區(qū)里面的數(shù)據(jù) Copy 到內(nèi)核的 Socket 緩沖區(qū)里面，然后再通過 DMA 把數(shù)據(jù) Copy 到網(wǎng)卡中，發(fā)送出去。

你可能覺得這樣挺浪費空間的，每次都需要把內(nèi)核空間的數(shù)據(jù)拷貝到用戶空間中，所以零拷貝的出現(xiàn)就是為了解決這種問題的。

關于零拷貝提供了兩種方式分別是：

• mmap+write
• Sendfile

虛擬內(nèi)存

所有現(xiàn)代操作系統(tǒng)都使用虛擬內(nèi)存，使用虛擬的地址取代物理地址，這樣做的好處是：

• 一個以上的虛擬地址可以指向同一個物理內(nèi)存地址。
• 虛擬內(nèi)存空間可大于實際可用的物理地址。

利用第一條特性可以把內(nèi)核空間地址和用戶空間的虛擬地址映射到同一個物理地址，這樣 DMA 就可以填充對內(nèi)核和用戶空間進程同時可見的緩沖區(qū)了。

大致如下圖所示：

省去了內(nèi)核與用戶空間的往來拷貝，Java 也利用操作系統(tǒng)的此特性來提升性能，下面重點看看 Java 對零拷貝都有哪些支持。

mmap+write 方式

使用 mmap+write 方式代替原來的 read+write 方式，mmap 是一種內(nèi)存映射文件的方法，即將一個文件或者其他對象映射到進程的地址空間，實現(xiàn)文件磁盤地址和進程虛擬地址空間中一段虛擬地址的一一對應關系。

這樣就可以省掉原來內(nèi)核 Read 緩沖區(qū) Copy 數(shù)據(jù)到用戶緩沖區(qū)，但是還是需要內(nèi)核 Read 緩沖區(qū)將數(shù)據(jù) Copy 到內(nèi)核 Socket 緩沖區(qū)。

大致如下圖所示：

Sendfile 方式

Sendfile 系統(tǒng)調(diào)用在內(nèi)核版本 2.1 中被引入，目的是簡化通過網(wǎng)絡在兩個通道之間進行的數(shù)據(jù)傳輸過程。

Sendfile 系統(tǒng)調(diào)用的引入，不僅減少了數(shù)據(jù)復制，還減少了上下文切換的次數(shù)，大致如下圖所示：

數(shù)據(jù)傳送只發(fā)生在內(nèi)核空間，所以減少了一次上下文切換；但是還是存在一次 Copy，能不能把這一次 Copy 也省略掉？

linux2.4 內(nèi)核中做了改進，將 Kernel buffer 中對應的數(shù)據(jù)描述信息（內(nèi)存地址，偏移量）記錄到相應的 Socket 緩沖區(qū)當中，這樣連內(nèi)核空間中的一次 CPU Copy 也省掉了。

Java 零拷貝

MAppedByteBuffer

Java NIO 提供的 FileChannel 提供了 map() 方法，該方法可以在一個打開的文件和 MappedByteBuffer 之間建立一個虛擬內(nèi)存映射。

MappedByteBuffer 繼承于 ByteBuffer，類似于一個基于內(nèi)存的緩沖區(qū)，只不過該對象的數(shù)據(jù)元素存儲在磁盤的一個文件中。

調(diào)用 get() 方法會從磁盤中獲取數(shù)據(jù)，此數(shù)據(jù)反映該文件當前的內(nèi)容，調(diào)用 put() 方法會更新磁盤上的文件，并且對文件做的修改對其他閱讀者也是可見的。

下面看一個簡單的讀取實例，然后再對 MappedByteBuffer 進行分析：

public class MappedByteBufferTest {

    public static void main(String[] args) throws Exception {
        File file = new File("D://db.txt");
        long len = file.length();
        byte[] ds = new byte[(int) len];
        MappedByteBuffer mappedByteBuffer = new FileInputStream(file).getChannel().map(FileChannel.MapMode.READ_ONLY, 0,
                len);
        for (int offset = 0; offset < len; offset++) {
            byte b = mappedByteBuffer.get();
            ds[offset] = b;
        }
        Scanner scan = new Scanner(new ByteArrayInputStream(ds)).useDelimiter(" ");
        while (scan.hasNext()) {
            System.out.print(scan.next() + " ");
        }
    }
}

主要通過 FileChannel 提供的 map() 來實現(xiàn)映射，map() 方法如下：

    public abstract MappedByteBuffer map(MapMode mode,
                                         long position, long size)
        throws IOException;

分別提供了三個參數(shù)，MapMode，Position 和 Size，分別表示：

• MapMode：映射的模式，可選項包括：READ_ONLY，READ_WRITE，PRIVATE。
• Position：從哪個位置開始映射，字節(jié)數(shù)的位置。
• Size：從 Position 開始向后多少個字節(jié)。

重點看一下 MapMode，前兩個分別表示只讀和可讀可寫，當然請求的映射模式受到 Filechannel 對象的訪問權(quán)限限制，如果在一個沒有讀權(quán)限的文件上啟用 READ_ONLY，將拋出 NonReadableChannelException。

PRIVATE 模式表示寫時拷貝的映射，意味著通過 put() 方法所做的任何修改都會導致產(chǎn)生一個私有的數(shù)據(jù)拷貝并且該拷貝中的數(shù)據(jù)只有 MappedByteBuffer 實例可以看到。

該過程不會對底層文件做任何修改，而且一旦緩沖區(qū)被施以垃圾收集動作（garbage collected），那些修改都會丟失。

大致瀏覽一下 map() 方法的源碼：

    public MappedByteBuffer map(MapMode mode, long position, long size)
        throws IOException
    {
            ...省略...
            int pagePosition = (int)(position % allocationGranularity);
            long mapPosition = position - pagePosition;
            long mapSize = size + pagePosition;
            try {
                // If no exception was thrown from map0, the address is valid
                addr = map0(imode, mapPosition, mapSize);
            } catch (OutOfMemoryError x) {
                // An OutOfMemoryError may indicate that we've exhausted memory
                // so force gc and re-attempt map
                System.gc();
                try {
                    Thread.sleep(100);
                } catch (InterruptedException y) {
                    Thread.currentThread().interrupt();
                }
                try {
                    addr = map0(imode, mapPosition, mapSize);
                } catch (OutOfMemoryError y) {
                    // After a second OOME, fail
                    throw new IOException("Map failed", y);
                }
            }

            // On windows, and potentially other platforms, we need an open
            // file descriptor for some mapping operations.
            FileDescriptor mfd;
            try {
                mfd = nd.duplicateForMapping(fd);
            } catch (IOException ioe) {
                unmap0(addr, mapSize);
                throw ioe;
            }

            assert (IOStatus.checkAll(addr));
            assert (addr % allocationGranularity == 0);
            int isize = (int)size;
            Unmapper um = new Unmapper(addr, mapSize, isize, mfd);
            if ((!writable) || (imode == MAP_RO)) {
                return Util.newMappedByteBufferR(isize,
                                                 addr + pagePosition,
                                                 mfd,
                                                 um);
            } else {
                return Util.newMappedByteBuffer(isize,
                                                addr + pagePosition,
                                                mfd,
                                                um);
            }
     }

大致意思就是通過 Native 方法獲取內(nèi)存映射的地址，如果失敗，手動 GC 再次映射。

最后通過內(nèi)存映射的地址實例化出 MappedByteBuffer，MappedByteBuffer 本身是一個抽象類，其實這里真正實例化出來的是 DirectByteBuffer。

DirectByteBuffer

DirectByteBuffer 繼承于 MappedByteBuffer，從名字就可以猜測出開辟了一段直接的內(nèi)存，并不會占用 JVM 的內(nèi)存空間。

上一節(jié)中通過 Filechannel 映射出的 MappedByteBuffer 其實際也是 DirectByteBuffer，當然除了這種方式，也可以手動開辟一段空間：

ByteBuffer directByteBuffer = ByteBuffer.allocateDirect(100);

如上開辟了 100 字節(jié)的直接內(nèi)存空間。

Channel-to-Channel 傳輸

經(jīng)常需要從一個位置將文件傳輸?shù)搅硗庖粋€位置，F(xiàn)ileChannel 提供了 transferTo() 方法用來提高傳輸?shù)男剩紫瓤匆粋€簡單的實例：

public class ChannelTransfer {
    public static void main(String[] argv) throws Exception {
        String files[]=new String[1];
        files[0]="D://db.txt";
        catFiles(Channels.newChannel(System.out), files);
    }

    private static void catFiles(WritableByteChannel target, String[] files)
            throws Exception {
        for (int i = 0; i < files.length; i++) {
            FileInputStream fis = new FileInputStream(files[i]);
            FileChannel channel = fis.getChannel();
            channel.transferTo(0, channel.size(), target);
            channel.close();
            fis.close();
        }
    }
}

通過 FileChannel 的 transferTo() 方法將文件數(shù)據(jù)傳輸?shù)?System.out 通道，接口定義如下：

    public abstract long transferTo(long position, long count,
                                    WritableByteChannel target)
        throws IOException;

幾個參數(shù)也比較好理解，分別是開始傳輸?shù)奈恢?，傳輸?shù)淖止?jié)數(shù)，以及目標通道；transferTo() 允許將一個通道交叉連接到另一個通道，而不需要一個中間緩沖區(qū)來傳遞數(shù)據(jù)。

注：這里不需要中間緩沖區(qū)有兩層意思：第一層不需要用戶空間緩沖區(qū)來拷貝內(nèi)核緩沖區(qū)，另外一層兩個通道都有自己的內(nèi)核緩沖區(qū)，兩個內(nèi)核緩沖區(qū)也可以做到無需拷貝數(shù)據(jù)。

Netty 零拷貝

Netty 提供了零拷貝的 Buffer，在傳輸數(shù)據(jù)時，最終處理的數(shù)據(jù)會需要對單個傳輸?shù)膱笪?，進行組合和拆分，NIO 原生的 ByteBuffer 無法做到

Netty 通過提供的 Composite（組合）和 Slice（拆分）兩種 Buffer 來實現(xiàn)零拷貝。

看下面一張圖會比較清晰：

TCP 層 HTTP 報文被分成了兩個 ChannelBuffer，這兩個 Buffer 對我們上層的邏輯（HTTP 處理）是沒有意義的。

但是兩個 ChannelBuffer 被組合起來，就成為了一個有意義的 HTTP 報文，這個報文對應的 ChannelBuffer，才是能稱之為“Message”的東西，這里用到了一個詞“Virtual Buffer”。

可以看一下 Netty 提供的 CompositeChannelBuffer 源碼：

public class CompositeChannelBuffer extends AbstractChannelBuffer {

    private final ByteOrder order;
    private ChannelBuffer[] components;
    private int[] indices;
    private int lastAccessedComponentId;
    private final boolean gathering;

    public byte getByte(int index) {
        int componentId = componentId(index);
        return components[componentId].getByte(index - indices[componentId]);
    }
    ...省略...

Components 用來保存的就是所有接收到的 Buffer，Indices 記錄每個 buffer 的起始位置，lastAccessedComponentId 記錄上一次訪問的 ComponentId。

CompositeChannelBuffer 并不會開辟新的內(nèi)存并直接復制所有 ChannelBuffer 內(nèi)容，而是直接保存了所有 ChannelBuffer 的引用，并在子 ChannelBuffer 里進行讀寫，實現(xiàn)了零拷貝。

其他零拷貝

RocketMQ 的消息采用順序?qū)懙?commitlog 文件，然后利用 consume queue 文件作為索引。

RocketMQ 采用零拷貝 mmap+write 的方式來回應 Consumer 的請求。

同樣 Kafka 中存在大量的網(wǎng)絡數(shù)據(jù)持久化到磁盤和磁盤文件通過網(wǎng)絡發(fā)送的過程，Kafka使用了 Sendfile 零拷貝方式。

總結(jié)

零拷貝如果簡單用 Java 里面對象的概率來理解的話，其實就是使用的都是對象的引用，每個引用對象的地方對其改變就都能改變此對象，永遠只存在一份對象。