阅读 22 SEO

妹妹10分钟就玩懂了零拷贝和NIO,也太强了

微信公众号:moon聊技术
本文约3500字,完整阅读大概会花费你「10分钟」左右的时间
[如果你觉得文章对你有帮助,欢迎关注,点赞,转发]

前言

'零拷贝'这个词大家应该不陌生了,也算是大厂面试中的一个高频考点,玩过 NETTY 的朋友应该对此相当熟悉了,NETTY 的「高并发」很大程度上都是因为 NIO,而 NIO 的核心就是零拷贝技术了,今天就让你十分钟玩懂零拷贝。

传统的IO模型是怎么样的?

我们来看一张图,让我们看看一个文件从磁盘传输到网卡究竟要经历什么样的磨难:
image
  • 「第一步」:将文件通过 「DMA」 技术从磁盘中拷贝到内核缓冲区

  • 「第二步」:将文件从内核缓冲区拷贝到用户进程缓冲区域中

  • 「第三步」:将文件从用户进程缓冲区中拷贝到 socket 缓冲区中

  • 「第四步」:将socket缓冲区中的文件通过 「DMA」 技术拷贝到网卡

这种数据存储的区域整体我们把它叫做「非直接缓冲区」

我们发现,居然有四步数据拷贝的过程!!并且整个数据的传输过程都是「需要 CPU 去执行」的。

这个过程也太繁琐了,我就想传输一些数据,干嘛要传到用户这里,还要我自己再走一遍后续的流程,写到 socket 缓冲区再发出去,你不能帮我实现吗?

怎么去优化传统 IO 的流程呢?

我们继续看上面的流程图理一下,看看哪些步骤是可以去掉的

我们发现在整个过程中,数据从磁盘读出来到发送给网卡,「文件内容」都是「不会发生改变」的,但是我却要经历「4次文件内容的拷贝」才真正能将文件传输到网卡。

那么以最简单的的方式来说,「能不能直接将磁盘中的数据传输到网卡呢?」

当然不可以,这个原因也很简单,因为「网卡和磁盘都是外部设备」,所以一定要有一个中间的缓冲区域来取存储数据,做一个转发的作用。

image

那么我们看上图中能做缓冲的有两个区域,一个是 「socket缓冲区」,一个是「内核缓冲区」,那么用哪一个?

这个问题应该很好选择了,socket 肯定不可以,socket 和我操作系统无瓜,那么只有用内核缓冲区来做缓冲区。

那么能不能通过「内核缓冲区直接给网卡」发送数据呢?

看样子是可以的,那么我们来看看,socket 缓冲区的作用是什么?

socket缓冲区的作用

每个 socket 被创建后,都会分配两个缓冲区,输入缓冲区和输出缓冲区。

write()/send() 并不立即向网络中传输数据,而是先将数据写入缓冲区中,再由 TCP 协议将数据从缓冲区发送到目标机器。一旦将数据写入到缓冲区,函数就可以成功返回,不管它们有没有到达目标机器,也不管它们何时被发送到网络,这些都是 TCP 协议负责的事情。

所以socket就是用来「传输网络数据」的,看来没它还不行。

但是我们换个思路,是不是说,只需要「告诉 socket 要传输哪些数据」就可以了?然后文件内容就可以直接用内核缓冲区的就好了。

零拷贝(zero copy)是怎么做到性能提升的

当你读懂了上面的内容,基本上已经能摸到零拷贝的核心脉络了,其实零拷贝就是使用「内存映射」来消除数据拷贝次数的,然后使用 「DMA」 技术来减少CPU的工作时间。

就只从拷贝次数的性能来看,可以讲性能提高至少百分之五十以上。

DMA

上文中经常提到一个很重要的词汇 - DMA ,它在整个零拷贝的流程当中是有很大的占比的,「能帮助 CPU 做大量的工作」,我们来介绍一下这个神奇的技术。

DMA就是「直接存储器访问」,DMA (Direct Memory Access,「直接存储器访问」) 是所有现代电脑的重要特色,它允许不同速度的硬件装置来沟通,而不需要依赖于 CPU 的大量中断负载。否则,CPU 需要从来源把每一片段的资料复制到暂存器,然后把它们再次写回到新的地方。在这个时间中,CPU 对于其他的工作来说就无法使用。

「原理」:DMA 传输将数据「从一个地址空间复制到另外一个地址空间」。当 CPU 初始化这个传输动作,传输动作本身是由 DMA 控制器来实行和完成。

零拷贝整体流程图

image

看到这里的话相信你对零拷贝已经有了深刻的理解,那么 NIO 到底是什么的?既然说了十分钟让你玩懂 NIO 和零拷贝,那 NIO 必不可少。

为什么需要 NIO ?

所有的系统I/O都分为「两个阶段」

  • 1.等待就绪
  • 2.读写操作

需要说明的是等待就绪的阻塞是不使用CPU的,是在“「空等」”;而真正的读写操作的阻塞是使用CPU的,真正在”干活”,而且这个过程非常快,属于memory copy,带宽通常在1GB/s级别以上,可以理解为「基本不耗时」

我们先来看看传统IO是怎么做的

在传统的 socket IO中,需要为每个连接创建一个线程。

「一个线程对应一个连接,只处理一个连接的事情」,这就是传统的socket IO。

「并发的连接数量非常巨大」时,线程所占用的栈内存和CPU线程「切换的开销就会非常大」

image

在这种情境下还可能会出现「线程数量小于连接数量」的情况,所以每个线程进行 I O操作时就不能阻塞,如果阻塞的话,有些连接就得不到处理。

如上图,假设有三条线程在管理三条连接,如果此时有第四个任务插入,那么就只能等待前面任务执行完成。

image

其操作就像是一条流水线一样,是串行阻塞的,故传统 IO 我们也称为 「BIO」

传统 IO 也「不知道什么时候该处理数据」,所以只能一直傻等。

为了解决这些问题,NIO 就出现了。

NIO 是 怎么解决这些问题的?

我们先来介绍一下 NIO 的核心组件

  • channel(通道)

    • 一个channel(通道)代表和某一实体的连接,这个实体可以是文件、网络套接字等。也就是说,通道是Java NIO提供的一座「桥梁」,用于我们的程序和操作系统底层I/O服务进行交互
  • buffer(缓冲区)
    image
    • 你可以把它理解为存储数据的地方,buffer很重要的三个属性 capacity (总容量),position (指针当前位置),limit (读/写边界位置)
  • selectors(选择器)

    • selector(选择器)是一个特殊的组件,用于采集各个通道的状态(或者说事件)。我们先将「通道注册到选择器,并设置好关心的事件」,然后就可以通过调用select()方法,静静地等待事件发生。

通道有如下4个事件可供我们监听:

Accept:有可以接受的连接

Connect:连接成功

Read:有数据可读

Write:可以写入数据了

我们首先需要注册当这几个事件到来的时候所对应的处理器。然后在合适的时机告诉事件选择器:我对这个事件感兴趣。

image

也就是说,在选择器上注册了这四个事件的处理器,用来处理 channel 的事件,「当 channel 某个事件真的准备就绪了,可以进行下一步的动作时,再告诉服务端来处理相应的数据,把相应的任务分配给服务端」,这样就能更好的利用 cpu 的资源。

前面我们说的零拷贝,就是在这时数据处理时发生的。

NIO 和 IO 有什么区别?

  • 1.NIO是以「缓冲区(块)」 的方式处理数据,IO是以「流」的形式去写入和读出的。
  • 2.NIO 又是基于这种流的形式,采用了通道和缓冲区的形式来进行处理数据的
  • 3.还有一点就是 NIO 的通道是可以「双向」的,但是 IO 中的流只能是「单向」
  • 4.还有就是 NIO 的缓冲区还可以进行分片,可以建立「只读缓冲区、直接缓冲区和间接缓冲区」,直接缓冲区是为加快 I/O 速度,而以一种特殊的方式分配其内存的缓冲区
  • 5.读写触发方式不同,NIO 是以选择器的轮询机制来触发的, IO是收到信息即触发。

总结

从传统 IO 模型 到 NIO 零拷贝模型我们可以看出,一个新技术的产生到崛起肯定是因为「其能满足之前技术满足不了的需求,或者相对于之前技术的性能有很高的提升」

传统 IO 传输需要进行四次的数据内容拷贝,包括「内核态和用户态」的切换,「内核态和数据载体」(磁盘、网卡)的切换,整个过程是阻塞的,过程浪费了很多资源。

而 NIO 是通过选择器,通道等核心模块,将整个 IO 处理过程变为异步的方式,只有其数据任务真正就绪了,才会让 cpu 去做处理,大量的节省了资源,提高了性能。

零拷贝就是让用户态和内核态之间的数据不再通过拷贝的方式传输,使用了「内存映射」,做到了内核态和用户态数据的零拷贝。

其拷贝方式使用了 「DMA」 技术,其目的就是为了解决 CPU 拷贝数据的方式,让「拷贝数据」这种累活「不再占用 CPU 的资源」,有 DMA 去完成。

因为是使用了内存映射的关系,所以零拷贝技术「无法对数据内容做更改」

作者:moon聊技术

原文链接:https://www.jianshu.com/p/581dc748db78

文章分类
后端
文章标签
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 gxwowoo@163.com 举报,一经查实,本站将立刻删除。
相关推荐