并行分布式计算_并行分布式计算架构_并行计算和分布式计算

1. 什么是并行计算

并行计算（ParallelComputing）是指在并行计算机上，将一个应用分解成多个子任务，分配给不同的处理器，各个处理器之间相互协同，并行地执行子任务，从而达到加快求解速度，或者提高求解应用问题规模的目的。

2. 并行计算必须具备的3个基本条件

（1）并行计算机。并行计算机至少包含两台或两台以上处理机，这此处理机通过互联网络相互连接，相互通信。

（2）应用问题必须具有并行度。也就是说，应用可以分解为多个子任务，这些子任务可以并行地执行。将一个应用分解为多个子任务的过程，称为并行算法的设计。

（3）并行编程。在并行计算机提供的并行编程环境上，具体实现并行算法，编制并行程序并运行该程序，从而达到并行求解应用问题的目的。并行分布式计算

3. 并行计算与分布计算的区别

并行计算不同于分布式计算（DistributedComputing）。后者主要是指，通过网络相互连接的两个以上的处理机相互协调、各自执行相互依赖的不同应用，从而达到协调资源访问，提高资源使用效率的目的。并行分布式计算但是，它无法达到并行计算所倡导的加快求解同一个应用的速度，或者提高求解同一个应用的问题规模的目的。对于一些复杂应用系统，分布式计算与并行计算通常相互配合，既要通过分布式计算协调不同应用之间的关系，又要通过并行计算提高求解单个应用的能力。

下面给出并行计算和分布式计算的几个例子，以示区别。

例1（并行计算）N个数被分布存储在P台处理器，P台处理器并行执行N个数的累加和。首先，各个处理器累加它们各自拥有的局部数据，得到累加和；然后，P台处理器执行全局通信操作，累加所有部分和，得到全局累加和。

例2 （分布式计算）观众点播、远程驾驭式可视化、电视会议等。

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/tongxinshuyu/article-40147-1.html