多任务场景下单线程异步多线程多进程

douban.rar - 用scrapy框架实现的，爬取豆瓣电影上电影及电视剧相关信息的爬虫。搜索引擎蜘蛛无时无刻在爬取互联网中的链接，通过你站点之外的链接，爬取到你网站的内容，你的内容就有可能被抓取并建立索引。3. 网站地图sitemap：网站地图是做出来给蜘蛛爬取、让蜘蛛爬取更多的网站内容。

[8][1]（参见《蒲姑、徐奄、淮夷、群舒考》四川大学学报(哲学社会科学版)98(03)）[2]（赵林《农耕世界与游牧世界的冲突，融合及其历史效应》）[3]（《古今图书集成·二二二卷·礼记部总论》）[4]（《古今图书集成·二三九卷》）[5]（乔·格罗特《希腊史》1869年伦敦版（新版）第3卷第60页）[6] （《草茅危言》，《清议报》第27册，影印本，第4册，第1746-1747页）[7]（梁启超《与严幼陵先生书》《饮冰室合集》文集之一，第108页）[8] （《孙中山全集》第1卷，第220页）《西域之迷》全文完。所以对于蜘蛛来说也是一样的，本身有静态页的最符合我的胃口，我可以考虑不花费那么多的代价去抓取静态的。ti被硬件置1的情况是，当串行发送缓冲寄存器内的数据被通过txd( p3.1 )发送完毕时( 不同的串口方式置1条件不同 )不是指将数据存入串行发送缓冲器中时ti会被置1，同理ri被置1的情况是当rxd( p3.0 )接收到数据将此数据按位存入串行接收缓冲寄存器内完毕时( 不同串口方式置1的条件不同 )不是指从串行接收缓冲寄存器读完数据时ri会被置1。

导致的结果就是写入一个4kb的数据，实际运行时会有两次写入操作，理想的情况应该是操作系统的最小分配单元和闪存的一个页对应起来，这样操作系统写入一个4kb的数据，一次就能完成。所谓串口，是指数据采用串行传输方式，即一位接一位的传输，一般一针读取，一针写入。建设项目名称 自 至站线线路上部建筑铺设材料汇总表（第 页共 页） 建交-14序号 铺设标准 单位 数量 防爬器（个） 防爬支撑（根） 轨距杆（根） 道岔种类 异型鱼尾板（块） 道碴（方） p- p- p- p- p- p- p- p- 木制 混凝土 1/ 1/ 1/ 1/ 1/ 1/ 1/ 1/ 碎石 天然级配 填报单位： 制表 复核 主管 年 月 日附注：铺设标准中按钢轨类型、轨枕类型、每公里轨枕铺设标准分别填写。

显然可以用并发来加快速度，而且由于没有同步互斥关系，所以连锁都不用上，到底应该选择哪种方式，我们需要先了解各自的优缺点。

本人还有一篇文章是关于 同步与异步以及线程与进程

一、多线程任务和多进程任务优缺点

首先，要实现多任务，通常我们会设计Master-Worker模式，Master负责分配任务，Worker负责执行任务，因此，多任务环境下，通常是一个Master，多个Worker。

如果用多进程实现Master-Worker，主进程就是Master，其他进程就是Worker。

如果用多线程实现Master-Worker，主线程就是Master，其他线程就是Worker。

7. "dx.public.hide.dll" 此模式将会隐藏目标进程的大漠插件，避免被检测..另外使用此模式前，请仔细做过测试，此模式可能会造成目标进程不稳定，出现崩溃。"dx2" : dx2模式,用于窗口采用dx模式刷新,如果dx方式会出现窗口进程崩溃的状况,可以考虑采用这种.采用这种方式要保证窗口有一部分在屏幕外.win7或者vista不需要移动也可后台. 此模式占用cpu较大.。8、跑步机功能切换时的稳定性如何：有些时候，我们需要在跑步锻炼的时候随时切换跑步锻炼的模式，如果在跑步模式切换的时候，跑步机反应剧烈致使身体摇晃，这样的跑步机的稳定性就很差。

多进程模式的缺点是创建进程的代价大，在Unix/Linux系统下，用fork调用还行，在Windows下创建进程开销巨大。另外，操作系统能同时运行的进程数也是有限的，在内存和CPU的限制下，如果有几千个进程同时运行，操作系统连调度都会成问题。

多线程模式通常比多进程快一点，但是也快不到哪去，而且，多线程模式致命的缺点就是任何一个线程挂掉都可能直接造成整个进程崩溃，因为所有线程共享进程的内存。在Windows上，如果一个线程执行的代码出了问题，你经常可以看到这样的提示：“该程序执行了非法操作，即将关闭”c 多线程 多任务，其实往往是某个线程出了问题，但是操作系统会强制结束整个进程。

在Windows下，多线程的效率比多进程要高，所以微软的IIS服务器默认采用多线程模式。由于多线程存在稳定性的问题，IIS的稳定性就不如Apache。为了缓解这个问题，IIS和Apache现在又有多进程+多线程的混合模式，真是把问题越搞越复杂。

二、计算密集型 vs. IO密集型

是否采用多任务的第二个考虑是任务的类型。我们可以把任务分为计算密集型和IO密集型。

计算密集型任务的特点是要进行大量的计算，消耗CPU资源，比如计算圆周率、对视频进行高清解码等等，全靠CPU的运算能力。这种计算密集型任务虽然也可以用多任务完成，但是任务越多，花在任务切换的时间就越多，CPU执行任务的效率就越低，所以，要最高效地利用CPU，计算密集型任务同时进行的数量应当等于CPU的核心数。

计算密集型任务由于主要消耗CPU资源，因此，代码运行效率至关重要。Python这样的脚本语言运行效率很低，完全不适合计算密集型任务。对于计算密集型任务，最好用C语言编写。

第二种任务的类型是IO密集型，涉及到网络、磁盘IO的任务都是IO密集型任务，这类任务的特点是CPU消耗很少，任务的大部分时间都在等待IO操作完成（因为IO的速度远远低于CPU和内存的速度）。对于IO密集型任务，任务越多，CPU效率越高，但也有一个限度。常见的大部分任务都是IO密集型任务，比如Web应用。

IO密集型任务执行期间，99%的时间都花在IO上，花在CPU上的时间很少，因此，用运行速度极快的C语言替换用Python这样运行速度极低的脚本语言，完全无法提升运行效率。对于IO密集型任务，最合适的语言就是开发效率最高（代码量最少）的语言，脚本语言是首选，C语言最差。

三、异步IO

考虑到CPU和IO之间巨大的速度差异，一个任务在执行的过程中大部分时间都在等待IO操作，单进程单线程模型会导致别的任务无法并行执行，因此，我们才需要多进程模型或者多线程模型来支持多任务并发执行。

现代操作系统对IO操作已经做了巨大的改进，最大的特点就是支持异步IO。如果充分利用操作系统提供的异步IO支持，就可以用单进程单线程模型来执行多任务，这种全新的模型称为事件驱动模型，Nginx就是支持异步IO的Web服务器，它在单核CPU上采用单进程模型就可以高效地支持多任务。在多核CPU上，可以运行多个进程（数量与CPU核心数相同），充分利用多核CPU。由于系统总的进程数量十分有限，因此操作系统调度非常高效。用异步IO编程模型来实现多任务是一个主要的趋势。

对应到Python语言，单线程的异步编程模型称为协程，有了协程的支持，就可以基于事件驱动编写高效的多任务程序。

在学习异步IO模型前，我们先来了解协程。

协程，又称微线程，纤程。英文名Coroutine。

协程的概念很早就提出来了，但直到最近几年才在某些语言（如Lua）中得到广泛应用。

子程序，或者称为函数，在所有语言中都是层级调用，比如A调用B，B在执行过程中又调用了C，C执行完毕返回，B执行完毕返回，最后是A执行完毕。

所以子程序调用是通过栈实现的，一个线程就是执行一个子程序。

子程序调用总是一个入口，一次返回，调用顺序是明确的。而协程的调用和子程序不同。

（1）可重入代码(reentrant code):在代码执行的任何时刻都可以中断它，转而去执行另一段代码，控制权返回后原来的程序不会出现任何错误。【中断】cpu对系统发生的某个事件作出的一种反应：cpu暂停正在执行的程序，保留现场后自动转去执行相应事件的处理程序，处理完成后返回断点，继续执行被打断的程序。当程序释放分配的内存空间时，这片内存空间被返回内部堆结构中，可能会被适当的处理(比如和其他空闲空间合并成更大的空闲空间)，以更适合下一次内存分配申请。

注意，在一个子程序中中断，去执行其他子程序，不是函数调用，有点类似CPU的中断。

协程的特点在于是一个线程执行，那和多线程比，协程有何优势？

它也需要占用操作系统中一些资源来管理线程，增加了资源消耗），而是由程序自身控制，因此，没有线程切换的开销，和多线程比，线程数量越多，协程的性能优势就越明显。线程的引入减小了程序并发执行时的开销，提高了操作系统的并发性能。因为子程序切换不是线程切换（线程切换：当cpu从执行一个线程切换到执行另外一个线程的时候，它需要先存储当前线程的本地的数据，程序指针等，然后载入另一个线程的本地数据，程序指针等，最后才开始执行。

第二大优势就是不需要多线程的锁机制，因为只有一个线程，也不存在同时写变量冲突，在协程中控制共享资源不加锁，只需要判断状态就好了，所以执行效率比多线程高很多。

这也就是说同时运行的其他进程， 或者线程关联性（ 强制线程在某些核或 cpu 上运行） 会影响性能。当核内既支持进程也支持线程时，就可以实现线程-进程的'多对多'模型，即一个进程的某个线程由核内调度，而同时它也可以作为用户级线程池的调度者，选择合适的用户级线程在其空间中运行。无法利用多核资源：协程的本质是个单线程,它不能同时将 单个cpu 的多个核用上,协程需要和进程配合才能运行在多cpu上.当然我们日常所编写的绝大部分应用都没有这个必要，除非是cpu密集型应用。

Python对协程的支持是通过generator实现的。

四、分布式进程

在Thread和Process中，应当优选Process，因为Process更稳定，而且，Process可以分布到多台机器上，而Thread最多只能分布到同一台机器的多个CPU上。

Python的multiprocessing模块不但支持多进程，其中managers子模块还支持把多进程分布到多台机器上。一个服务进程可以作为调度者，将任务分布到其他多个进程中，依靠网络通信。

由于managers模块封装很好c 多线程 多任务，不必了解网络通信的细节，就可以很容易地编写分布式多进程程序。

有删改，转载自：https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000/0014319292979766bd3285c9d6b4942a8ea9b4e9cfb48d8000

下一篇文章举例说明一下单线程异步、多线程、多进程的简单场景，并对比运行效率

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-107163-1.html