
并行计算(Parallel Computing)
并行计算唤行计算是相对于串行计算来说的。并行计算(Parallel Computing)是指同时使用多种计算资源解俱问题的过程。为执行并行计算,计算资源要包含一台配有多处理机(并行处理)的计算机、一给络相连的计算机专有编号,唤者结合使用。并行计算的挚的是迅速解就且复杂的计算难题。

并行计算可以界定成时间并行和空间并行。时间并行即吝技收间并行使用多疙菩并发计算,当前研究的智空间的并行问题。以程秀法设计人员的角度看,并行计算既能分为数据并行和任涡。数据并行把次吴成痊的子任桅理迫任涡迹
空间上的并行导致两类并行机的形成,按照Michael Flynn(费林分类法)的表述分为单指令笼据罥MD)和多指令笼据罥MD),而常见的串行机也称为单指令笼据罥SD)。MIMD类的机粕分为常见的五类:并行夕理机(PVP)、对称多处理机(SMP)、矗并行处理机(MPP)、工群(COW)、分布式共享存储处理机(DSM)。
2. 分布式计算(Distributed Computing)
分布式计算这缚领有究分散系统(Distributed system)如何进行计算。分散系统是一组计算机,通过计算机网路互相链接与通讯荷的平台。把应该进行雌算的工程数据分区成小块,由多台计算机分便,在上传运算结果韩结果统一合并得齿结论的科学。

目前常用的分布式计算项目一般使用全球赶千透者计算机的闲置计算能力,通过互联网进行数据存储。如分毋蛋白质的外部结构跟相关药物的Folding@home项目,该项目结构庞磋要惊人的计算量,由一台电脑计算是不可能完成的。即使目前有了计算能力最强的超级电脑,但是一些科研机构的经费仍又非常有限。
分布式计算比泣算法具有以下几搞:
1、稀有资源可以共享。
2、通过分布式计算可以在多台计算机上平衡计算负载。
3、可以把程汹最合适运行它的计算机上。其中,共享稀有资源和平衡负载是计算机分布式计算的核心观念之一。
3. 并行计算与分布式计算的区剥
并行计算与分布式计算都是运用并行来稽高性能,化础任蔚来,如果处理单元共享存储,就称为并行计算,反之就是分布式计算。也有人认为分布式计算是并行计算的一种特例。
但是分布式的任违相之间有独立性,上一改结果未返回磺结果处理错卧下一改处理几盒什么影响。椰分布式的实时性要沁,而且允许存在计算错慰搞任蚊几鸽者计算,上传结果到服稳较结果,然横果差异带行验证。
分布式要处理的难题通常是基于“寻找”模式的。所谓的“寻找”,就相当于穷举法!为了尝试到每一杠存在的结果网格计算与分布式计算,一般从0~N( 某一数值)被一糕试网格计算与分布式计算,直到我们找到所要轻果。事实上,为了便于一次性探测到恰当的结果,我们假定结果是以某糕形式开始的。在这些类型的搜爽我们可能幸运的一开始就找到椿也许不够走运以至于到更阂到船这都更公平。
这么说,并行程行处理的任萎间有更椽系,而且并行计算的每一讣是必要的,没有浪费的分割的,就是每讣要处理,而且计算结果相互影响,就要瞧算结果应绝对正确,而且在时间上应尽量赚步,而分布式的好多任紊以根本就不处理,有茨无用数据块,所以说分布式计算的速率显然迅速,但是真正的“效率”是低之再低 的,可能经常在寻求,但是依然都找不到,也或许一开始就找到了;而并行处理不同,它的任梧对有限,在一皋的时间需要是或许完成的。
分布式的编写一般用的是C++(也有用JAVA的,但是都不是蜘,基本不用MPI接口。并行计算用MPI籶enMP。
4. 集群计算(Cluster Computing)
计算机集群将一组松散集成的计算机硬件箕连接七度截协咨计算工宗某种含义上,他们可以被看谆台计算机。集群系统中的单搞机通常称为节点,通常借助局蝇接,但也是其他的或许连接方法。集群计算机一般用来优化单搞机的计算速度跟/豢性。一般情刊群计算机比单搞机,比如工锥计算机性价比要高得多。
根据构成集群系统的计算机之间模式结构是番,集群可分为同构与异构两种。集群计算机按用途和构架可以分为,高可用性集群(High-availability (HA) clusters)、负载均衡集群(Loadbalancing clusters)、高性能计算集群(High-performance (HPC)clusters)、网搞(Grid computing)。

高可用性集群,一般是指当集群中有某搞失效的情楷其上的任卧动转移至其它正常的节点上。还指可以将集群中的某节点进行离线维护再上线,该过程并不影响整负的运行。
负载均衡集群,负载均衡集群运行时,一般借助一高多杆负载均衡偏工棕分发到耗一组服蜗,从而超过整赋的高性能和高可用性。这样的计算机集群有时也被称为服魏(Server Farm)。一般高可用性集群和负载均衡集群会使用类似的技时带有高可用性与负载均衡的特性。Linux虚拟服唯LVS)项目在Linux操壮上提供了更常用的负载均衡软件。
高性能计算集群,高性能计算集群采取将计算任武到集群的不同计算节点儿增加计算能力,姚用在科学计算领尤较聊HPC采用Linux操壮和其他一些免费工具来完成并行运算。这一集群配置一般被称为Beowulf集群。这类集群一般运行特定的程孝挥HPC cluster的并行能力。这类程秀应用特定的运行库, 比如专为科学计算设计的MPI库。HPC集群特毕于在计算中搞节点之间出现待据通讯的计算赚比如一弄的后面结果混到其他节点计算结果的情?p>
5. 网搞(Grid Computing)
网搞是分布式计算的一种,也是一种与集群计算比较相关的技淑果我们说某项工字布式的,那么,参与这项工谆定不仅仅一台计算机,而是一搞机网络,显然这些“蚂蚁搬山”的方法将具备更强的数据处理能力。网搞的实质就是组合与共享资源并推动平台安全。
网搞通过运用挫构计算机的已用资源(CPU周 期跟磁盘存储),将其锥入在分布式电信基础设施中的一糕的计算机集群,为解炬模的计算难题提供一竿。网搞的焦点放到支持跨管理鱼 的能力,这让它与特色的计算机集群怀的分布式计算相区军搞的目标是解沮任何单一的超级计算机来说仍然囱以解臼题,并同时保持解靖〉奈侍獾牧榛钚浴U庋憔吞峁┝艘桓没Щ肪场Ⅻ/p>
6. 集群计算与网搞的区剥

(1)钾,网斧统集群的诸军脯接一组相关并不信任的计算机,它的运足公共设备而不是一涪的计算机。网福比集群支持更多不同类型的计算机集合。
(2)网甘上就是动态的,集群包括的处理剖源的数量一般都是静态的。在网脯资源栽动态超资源可以按照需要添加至网帮妇除。
(3)网跟就是在本地网、城酉进行分布的。网冈分布在任何地方。而集群物理上都包括在一该的相似地方,通常也是局鹰连。集群互连技 试产生相当低的网络延时,如果集群距离很远,这可能会导致形成这些难题。物理临近和网络延时限制了集群地蛹的能力,而网岗动态特征,可以提供 很好的高能扩展性。
(4)集群建过轧晰足阅需腔而,集群的服锡量、以及因而造成的集群性能是有限的:互连网络容量。也就是说如果一味地想借助扩矗来提升集群计算机的功耗,它的性价比会相应增加,这意味着我们不可能无限制地扩春的规模。 而网糕嘲的超级计算机,不受规模的限制,成为下一代Internet的发展方?p>
(5)集群和网搞是互相补充的。很多网岗自己管理的资源中引入了集群。实际上,网抚可能并不知道他的工棕是在一柑的集群上执行的。尽管网腐群之间存在诸多区鲍是那些区秉们构成了一福重要的关系,爷群在网杠有一席之地—— 特定的弊端通常都必须一些较的处理柒净而,随着网络功能跟带宽的演进,以前采取集群计算很难解臼题以后可以使用网搞技剩理解网感的能扩展性和集群提供的较互连机制所带来的功耗优势之间的平衡是相当重要的。
7. 云计算(Cloud Computing)
云计算是最新开始的新概念,它不仅仅计算等计算机概念,还有运营服闻念了。它是分布式计算、并行计算跟网搞的演进,坏是那些概念的商业实现。云计算不但包含分布式计算还涵盖分布式存储和分布式缓存。分布式存储又包含分布式文件传输和分布式数据储存。
8. 云计算与并行、分布式、网腐群计算的区剥
云计算是从集群技让而来,区壁集群虽然把多台机扑片但其某项具体任涡的时呵会被转发到某台服蜗,而云可以寄觉得是任卧被分割成多柑在多台服蜗并行计算,然航结果,好处在于摧量的操总非常好。云可以使用廉价的PC服危梢怨芾泶萘坑氪海丶际谀芄欢栽颇诘幕∩枋┙卸葱璺峙溆牍芾怼T萍扑阌氩⑿屑扑恪⒎植际郊扑愕那约扑慊没Ю此担⑿屑扑闶怯傻ジ瓿傻模植际郊扑闶怯啥喔Ш献傻模萍扑闶敲挥杏没Р斡耄墙桓缌硪欢说姆瓿傻摹Ⅻ/p>
本文来自电脑杂谈,转载请注明本文网址:
https://www.pc-fly.com/a/jisuanjixue/article-136599-1.html
超日本五倍也不算多