异步io 编程 《Windows核心编程》之“完成端口”（对所有IO都是如此

《Windows核心编程》第10章开头部分一再强调：“IO Completion Port”是“构建高性能、可升缩的应用程序”的最佳设施之一，它不仅适用于处理设备IO，也适用于其它越来越多的应用场景，比如：Job内核对象、Socket编程等。故此，我单独用一篇博客来讲述“IO Completion Port”的应用场景、原理、用法和示例。

一、缘起

1，线程通信

对于一个服务应用程序（service application）来说，典型的操作是对客户请求进行处理，我们无法预见这些客户请求会在何时到达，也无法预见处理这些客户请求需要消耗多少处理器资源。这些操作常常来自诸如网卡、适配器之类的I/O设备，而对这些请求进行处理又经常会用到额外的I/O设备，比如磁盘文件。

在Windows应用程序中，线程是我们最好的工具，可以用来对工作进行划分。我们可以给每个线程指定 一个处理器，这样在多处理器的机器上就可以同时执行多个操作，从而提高吞吐量。当线程发出一个同步设备I/O请求的时候，它会被临时挂起，直到设备完成I/O请求为止。此类挂起会损害性能，这是因为线程无法进行有用的工作，比如开始对另一个客户请求进行处理。因此，简而言之，我们希望线程不会被阻塞住，这样它们就能始终进行有用的工作。异步io 编程

为了不让线程闲下来，我们需要让各个线程就它们正在执行的操作互相通信。这类通信机制可以帮助我们创建高性能的应用程序。

异步I/O实际上也是基于线程通信来实现的，如上图。左边的线程执行正常流程，右边的线程处理缓慢耗时的I/O过程；右边的线程处理完I/O后，会通知左边的线程，而左边的线程在运行到一定时候，也会停下来等待和检查是否有属于它的“完成通知”。

如何管理线程间的通信（或同步），以降低线程的阻塞时间（或等待时间），是设计高性能应用程序的关键。

2，经典服务器模型

回顾历史，我们能够采用以下两种模型之一来构架一个服务应用程序。

1）串行模型（serial model）

一个线程等待一个客户（通常是通过网络）发出请求。当请求到的时候，线程会被唤醒并对客户请求进行处理。

优点：简单，非异步。

缺点：不能同时处理多个请求。

2）并发模型（concurrent model）

一个线程等待一个客户请求，并创建一个新的线程来处理请求。当新线程正在处理客户请求的时候，原来的线程会进入下一个循环并等待另一个客户请求。当处理客户请求的线程完成整个处理过程的时候，该线程就会终止。

优点：能够同时接收多个请求。它相对于“一个等待线程 + 多个处理线程”，等待线程循环运行，随时可以接收客户请求。

比较串行模型和并发模型，可以它们最大的不同是：串行模型服务应用程序只有一线程（Single thread），而并发模型服务应用程序则是有多少个客户请求，就创建多少个线程（one-thread-per-client）。

缺点：一是，并发线程过多时，会增加系统的线程切换时间（context switching），降低CPU的有效工作时间。二是，创建和销毁线程需要一定时间开销。

针对并发模型的两个缺点，微软分别设计了IO完成端口和线程池两种设施，组合使用可以有效替代经典的并发模型。

二、理论

IO完成端口与线程池结合，主要用于创建高效的异步IO应用程序。为了理解IO完成端口的用法，我们需要先了解一些相关知识。

1，重叠结构（OVERLAPPED）

OVERLAPPED的是异步IO必备的一个数据结构。在《Windows核心编程》10.4.1节专门描述它，如下：

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/ruanjian/article-68209-1.html