云计算、分布式计算、并行计算、网格计算、集群

转自：

并行计算：并行计算是相对于串行计算来说的。可分为时间上的并行和空间上的并行。 时间上的并行就是指流水线技术。而空间上的并行则是指用多个处理器并发的执行计算。比如基于CUDA编程。

并行计算的目的就是提供单处理器无法提供的功耗（处理器能力或存储器）。使用多处理器求解单个问题。

总结：并行的主体 -- 处理器。进程/线程级并行。

分布式计算：分布式计算研究如何把一个须要特别巨大的计算能力才干解决的难题分成众多小的部份，然后把这种个别分配给众多计算机进行处理，最后把这种计算结果综合起来受到已经的结果。近期的分布式计算项目尚未被用于使用全球各国成千上万位志愿者的计算机的闲置计算能力，通过因特网，能够预测来自外太空的电讯号。寻找隐秘的宇宙，并构建可能存在的外星智慧生命等。

总结：并行的主体 -- 计算机；各个计算机并行

并行计算与分布式计算的差异：（1）简单的理解，并行计算通过并行算法和并行编程语言无法推动进程级并行（如MPI）和线程级并行（如openMP）。

而分布式计算仅仅是将任务分成小块到各个计算机分别计算各自执行。（2）粒度方面，并行计算中。处理器间的交互通常比较经常，往往带有细粒度和低开销的特点云计算分布式计算，而且被认为是可靠的。而在分布式计算中，处理器间的交互不经常。交互特征是粗粒度。而且被认为是不靠谱的。并行计算注重短的执行时间，分布式计算则强调长的正常执行时间。（3）联系。并行计算跟分布式计算它们是紧密相关的。某些特性与程度（处理器间交互频率）有关，而我们还已对这种的交叉点（crossover point）进行解释。还有一些特点则与側重点有关（速度与可靠性），而且我们了解这两个特性对并行和分布两类系统都十分重要。

（4）总之。这两种不同类型的计算在一个多维空间中代表不同但既相邻的点。

集群计算：计算机集群使将一组松散集成的计算机工具和/或软件连接起来高度紧密地协同完毕计算工作。在某些意义上，他们无法被看作是一台计算机。集群系统中的单个计算机一般称为节点，通常借助局域网连接，但也是其它的或许连接方法。集群计算机通一直使用来优化单个计算机的推导速度跟/或可靠性。

普通状况下集群计算机比单个计算机，比方工作站或超级计算机性价比要高得多。

依据构成集群系统的计算机之间模式结构能否同样，集群可分为同构与异构两种。集群计算机按用途和构架能够分为，高可用性集群（High-availability (HA) clusters）、负载均衡集群（Loadbalancing clusters）、高性能计算集群（High-performance (HPC)clusters）、网格计算（Grid computing）。

网格计算：网格计算是分布式计算的一种，也是一种与集群计算比较相关的技术。

假设我们说某项工作是分布式的，那么。參与这项工作的必定不仅仅是一台计算机，而是一个计算机网络。显然这种的“蚂蚁搬山”的方法将具备相当强的数据处理能力。网格计算的实质就是组合与共享资源并推动平台安全。网格计算通过运用大量异构计算机的未用资源（CPU周 期跟磁盘存储），将其成为嵌入在分布式电信基础设施中的一个虚拟的计算机集群，为解决的计算难题提供一个模型。网格计算的焦点放到支持跨管理域计算 的素质。这让它与特色的计算机集群或传统的分布式计算相区别。网格计算的目标是解决对于不论何种单一的超级计算机来说仍然大得无法缓解的难题，并同一之后维持缓解 多个较小的弊端的灵活性。这样。网格计算就提供了一个多用户环境。

集群计算与网格计算的差异：（1）简单地，网格与特色集群的主要区别是网格是联结一组相关并不信任的计算机云计算分布式计算，它的运作最像一个计算公共设备而不是一个独立的计算机。网格通常比集群支持这些其它不同类型的计算机集合。

（2）网格本质上就是动态的，集群包括的处理器和资源的总量通常都是静态的。在网格上，资源则无法动态出现，资源才能根据需要加入至网格中或从网格中删除。（3） 网格天生就是在本地网、城域网或广域网上进行分布的。网格能够分布在不论什么地方。而集群物理上都包括在一个位置的相同地方，通常只是是局域网互连。

集群互连技 术无法形成相当低的网络延时，假设集群距离相当远，这可能会导致形成相当多难题。物理临近和网络延时限制了集群地域分布的能力，而网格由于动态特征。能够提供 非常好的高能扩展性。（4）集群只是借助添加server满足增长的需求。

然而，集群的server数量、以及因而造成的集群性能是有限的：互连网络容量。也就是说假设一味地想借助扩来提升集群计算机的功耗。它的性价比会对应增加。这意味着我们不可能无限制地缩减集群的体量。 而网格虚拟出空前的超级计算机，不受规模的限制。成为下一代Internet的发展方向。（5）集群和网格计算是互相补充的。非常多网格都在自己管理的资源中採用了集群。实际上，网格用户或许并不知道他的工作负载是在一个远程的集群上执行的。虽然网格与集群之间存在相当多差距，可是这种差异让他们构成了一个非常重要的关系，由于集群在网格中总有一席之地—— 特定的弊端通常都需要一些紧耦合的处理器来缓解。然而，随着网络功能跟带宽的演进，曾经採用集群计算比较难解决的难题如今才能使用网格计算技术攻克了。

理解网格固有的能扩展性和集群提供的紧耦合互连机制所带来的功耗优势之间的平衡是相当重要的。

云计算：云计算是最新開始的新概念。它不仅仅是计算等计算机概念，还有运营服务等概念了。它是分布式计算、并行计算和网格计算的发展，或者说是那些概念的商业实现。云计算不但包括分布式计算还涵盖分布式存储和分布式缓存。分布式存储又包括分布式文件传输和分布式数据储存。

云计算与并行、分布式、网格和集群计算的差距：云计算是从集群技术演进而来，差别在于集群虽然把多台机器联了出来，但其某项具体任务执行的之后还是会被转发至某台server上，而云能否简单的感觉是任务才能被切割成多个进程在多台server上并行计算，然后受到结果。优点在于大数据量的操作性能非常好。

云能够使用便宜的PCserver ，能够管理大数据量与大集群，关键科技在于能否对云内的基础设施进行动态按需分配与管控。

云计算与并行计算、分布式计算的差异，以计算机用户来说，并行计算是由单个用户完毕的，分布式计算是由多个客户合作完毕的，云计算是没实用户參与。而是留给网络也有一端的server完毕的。

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-140833-1.html