IO是计算机体系中重要的一部分。IO类外设有打印机、键盘、复印机等;存储类型的设备则有硬盘、磁盘、U盘等;通信设备有网卡、路由器等。不同的IO设备有着不同的特点,很难实现一种统一的输入、输出方法。
      IO有两种操作,同步IO和异步IO。同步IO是指必须等待IO操作完成后,控制权才会返回给用户进程。异步IO指的是无须等待IO操作完成,就将控制权返回给用户进程。
      网络中的IO,由于不同的IO设备有着不同的特点,网络通信中往往需要等待。常见的有以下4种情况:

  1. 输入操作:

      当一个网络IO发生(假设是read)时,它会涉及两个系统对象,一个是调用这个IO的进程,另一个是系统内核。当一个read操作发生时,它会经历两个阶段:①等待数据准备;②将数据从内核拷贝到进程中。
      为了解决网络IO中的问题,提出了4中网络IO模型:

  • 阻塞IO模型
  • 非阻塞IO模型
  • 多路复用IO模型
  • 异步IO模型

阻塞IO模型

      在Linux中,默认情况下所有socket都是阻塞的,一个典型的读操作如下图所示:
请输入图片描述

阻塞和非阻塞的概念描述的是用户线程调用内核IO操作的方式:阻塞时指IO操作需要彻底完成后才返回到用户空间;而非阻塞是指IO操作被调用后立即返回给用户一个状态值,不需要等到IO操作彻底完成。

      当应用进程调用了recvfrom这个系统调用后,系统内核就开始了IO的第一个阶段:准备数据。对于网络IO来说,很多时候数据在一开始还没到达时(比如还没有收到一个完整的TCP包),系统内核就要等待足够的数据到来。而在用户进程这边,整个进程会被阻塞。当系统内核一直等到数据准备好了,它就会将数据从系统内核中拷贝到用户内存中,然后系统内核返回结果,用户进程才解除阻塞的状态,重新运行起来。所以,阻塞IO模型的特点就是在IO执行的两个阶段(等待数据和拷贝数据)都被阻塞了。

非阻塞IO模型

      在Linux中,可以通过设置socket使IO变为非阻塞状态。当对一个非阻塞的socket执行read操作时,读操作流程如下图所示:
请输入图片描述

      从图中可以看出,当用户进程发出read操作时,如果内核中的数据还没有准备好,那么它不会阻塞用户进程,而是立刻返回一个错误。从用户进程角度讲,它发起一个read操作后,并不需要等待,而是马上就得到了一个结果。当用户进程判断结果是一个错误时,它就知道数据还没有准备好,于是它可以再次发送read操作。一旦内核中的数据准备好了,并且又再次收到了用户进程的系统调用,那么它马上就将数据复制到了用户内存中,然后返回正确的返回值。
      所以,在非阻塞式IO中,用户进程其实需要不断地主动询问kernel数据是否准备好。非阻塞的接口相比阻塞型接口的显著差异在于被调用之后立即返回。使用函数fcnt1(fd,F_SETFL,O_NONBLOCK);可以将某句柄fd设为非阻塞状态。
      在非阻塞状态下,recv()接口在被调用后立即返回,返回值代表了不同的含义,如下:

  1. recv()返回值大于0,表示接收数据完毕,返回值即是接收到的字节数
  2. recv()返回0,表示连接已经正常断开
  3. recv()返回-1,且errno等于EAGAIN,表示recv操作还没执行完成
  4. recv()返回-1,且errno不等于EAGAIN,表示recv操作遇到系统错误errno

      可以看到服务器线程可以通过循环调用recv()接口,可以在单个线程内实现对所有连接的数据接收工作。但是上述模型绝不被推荐,因为循环调用recv()将大幅度占用CPU使用率;此外,在这个方案中的recv()更多的是起到检测"操作是否完成"的作用,实际操作系统提供了更为高效的检测"操作是否完成"作用的接口,例如select()多路复用模式,可以一次检测多个连接是否活跃。

多路复用IO模型

      多路IO复用,有时也称为事件驱动IO。它的基本原理就是有个函数会不断地轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程,多路IO复用模型的流程如图所示:
请输入图片描述

      当用户进程调用了select,那么整个进程会被阻塞,而同时,内核会"监视"所有select负责的socket,当任何一个socket中的数据准备好了,select就会返回。这个时候用户进程再调用read操作,将数据从内核拷贝到用户进程。
      这个模型和阻塞IO的模型其实并没有太大的不同,事实上还更差一些。因为这里需要使用两个系统调用(select和recvfrom),而阻塞IO只调用了一个系统调用(recvfrom)。但是,用select的优势在于它可以同时处理多个连接。所以,如果系统的连接数不是很高的话,使用select/epoll的web server不一定比使用多线程的阻塞IO的web server性能更好,可能延迟还更大;select/epoll的优势并不是对单个连接能处理得更快,而是在于能处理更多的连接。
      在多路复用IO模型中,对于每一个socket,一般都设置成为非阻塞的,但是如上图所示,整个用户的进程其实是一直被阻塞的。只不过进程是被select这个函数阻塞,而不是socket IO阻塞。因此使用select()的效果与非阻塞IO类似。
      如果select()发现某句柄捕捉到了"可读事件",服务器程序应及时做recv()操作,并根据接收到的数据准备好待发送数据,并将对应的句柄值加入writefds,准备下一次的"可写事件"的select()检测。同样,如果select()发现某句柄捕捉到"可写事件",则程序应及时做send()操作,并准备好下一次的"可读事件"检测准备。
请输入图片描述

      这种模型的特征在于每一个执行周期都会
探测一次或一组事件,一个特定的事件会触发某个特定的响应,这里可以将这种模型归类为"事件驱动模型"。
      相比其他模型,使用select()的事件驱动模型只用单线程(进程)执行,占用资源少,不消耗太多CPU资源,同时能够为多客户端提供服务。如果试图建立一个简单的事件驱动的服务器程序,这个模型有一定的参考价值。

但是这个模型依旧有着很多问题。select()接口并不实现"事件驱动"的最好选择。因为当需要探测的句柄值较大时,select()接口本身需要消耗大量时间去轮询各个句柄。

      该模型将事件探测和事件响应夹杂在一起,一旦事件响应的执行体过于庞大,则对整个模型是灾难的。如下图所示,耗时很长的事件1将直接导致响应事件2的执行体迟迟得不到执行。
请输入图片描述

异步IO模型

请输入图片描述

      用户进程发起read操作之后,立刻就可以开始去做其他的事;而另一方面,从内核的角度,当它收到一个异步的read请求操作之后,首先会立刻返回,所以不会对用户进程产生任何阻塞。然后,内核会等待数据准备完成,然后将数据拷贝到用户内存中,当这一切都完成之后,内核会给用户进程发送一个信号,返回read操作已完成的信息。
      调用阻塞IO会一直阻塞住对应的进程直到操作完成,而非阻塞IO在内核还在准备数据的情况下会立刻返回。两者的区别就在于同步IO进行IO操作时会阻塞进程。按照这个定义,之前所述的阻塞IO、非阻塞IO及多路IO复用都属于同步IO。实际上,真实的IO操作,就是例子中的recvfrom这个系统调用。非阻塞IO在执行recvfrom这个系统调用的时候,如果内核的数据没有准备好,这时候不会阻塞进程。但是当内核中数据准备好时,recvfrom会将数据从内核拷贝到用户内存中,这个时候进程则被阻塞。而异步IO则不一样,当进程发起IO操作之后,就直接返回,直到内核发送一个信号,告诉进程IO已完成,则在这整个过程中,进程完全没有被阻塞。
      各个IO模型的比较如下图所示:
请输入图片描述

非阻塞IO和异步IO的区别还是很明显的。在非阻塞IO中,虽然进程大部分时间都不会被阻塞,但是它仍然要求进程去主动检查,并且当数据准备完成以后,也需要进程主动地再次调用recvfrom来将数据拷贝到用户内存中。而异步IO则完全不同,它就像是用户进程将整个IO操作交给了他人(内核)完成,然后内核做完后发信号通知。在此期间,用户进程不需要去检查IO操作的状态,也不需要主动地拷贝数据。

Last modification:September 30th, 2020 at 09:41 pm
如果觉得我的文章对你有用,请随意赞赏