YoungerChina

原文地址：?info_lb=283&info_id=751&flag=103

IBM GPFS文件系统是一种专门为群集环境设计的高性能、可扩展的并行文件系统。GPFS可以在群集中的多个节点间实现对共享文件系统中文件的快速存取操作，并提供稳定的故障恢复和容错机制。

被业界超高性能计算机系统所广泛使用

GPFS文件系统被广泛应用于世界上超的高性能计算机系统中，包括运行速度最快的IBM Blue Gene系统。在当前TOP500计算机排名中的232套IBM计算机系统几乎都采用了GPFS并行文件系统方案。在中国规模最大的5个高性能计算机系统中也无一例外地使用GPFS作为并行文件系统，这其中包括运行关键业务的生物信息和超级计算中心。这些项目成功实施和顺利运行充分证明了GPFS完全可以胜任用来构建超的计算机系统。

高可扩展性

GPFS具有无可比拟的扩展性，如下表所示：

项目

最大限制

Linux集群中经过验证的值

单个文件系统容量

集群中并行文件系统个数

单个文件系统中文件个数

2,147,483,648

单个文件系统能用到的逻辑卷个数（LUN数）

268 million

I/O带宽

取决于系统硬件配置

134GB/s

高性能

IBM GPFS并行文件系统软件在设计上不存在任何性能瓶颈，因此GPFS并行文件系统可以充分发挥硬件系统的性能。换句话说，GPFS并行文件系统的性能完全取决于硬件配置的好坏，而文件系统软件本身对性能的影响微乎其微。

IBM GPFS并行文件系统与其它并行文件系统之间最大的区别在于GPFS不需要专用的元数据（Meta Data）管理服务器，所有元数据分散在磁盘阵列中，并可以由任何I/O节点管理。这样的设计避免了并行文件系统中最可能产生性能瓶颈的因素——Meta Data Server。

高性能计算机系统的设计都会采用专用的I/O节点。I/O节点配置光纤通道卡连接外部磁盘阵列，而计算节点及登录节点对磁盘阵列的访问则是利用网络与I/O节点进行数据通讯。在系统规模非常大的时候，用来交换数据的网络通常会成为性能的瓶颈。IBM GPFS文件系统可以充分利用高速网络的特性，提升计算节点与I/O节点间的数据通讯性能，同时最大程度地降低因I/O处理带来的对CPU资源的消耗。

简单来说当用户提交一个新的请求，比如期望集群里面跑 5 个 tikv 节点，而目前正在跑的只有 3 个高性能计算机并行文件系统，那么 reconcile 机制就会发现这个差异，首先由 kubernetes 的调度器根据集群整体资源情况，并结合 tidb 节点分配的亲和性原则和资源隔离原则来分配节点。统一资源管理，一个支持统一资源调度的 sql on hadoop 系统非常具有研究价值，因为在一个大型复杂的分布式集群中，不可能只有一种计算框架拥有数据，更多的是多种工作负载不同的计算框架同时部署在同一集群，比如 spark，mr，hive，sparksql，impala，为了避免不同计算框架之间的资源竞争，需要使用统一的资源调度框架进行资源管理，使用统一资源管理可以避免计算框架申请过多的资源导致集群，操作系统等出现不稳定状态，yarn 和 mesos 是两个最流行的开源资源管理框架。计算节点的资源、获取集群计算节点的状态，当接收到提交的批处理作业时进行资源的调度。

今天正好有80gbps的万兆网络环境，写了一个工具，对比了一下各种流媒体服务器，在超级并发下的性能如何，原来听说intel的万兆网卡有问题，只能跑到不到的理论带宽，这点我测试过了，用intel最新的驱动，centos6，最次能跑到80%的理论带宽，最高能跑到95%以上，完全没有问题，需要注意的是nginx 采用异步架构，因为rtmp协议实际上损失了部分性能，实际上http的性能比这个更高。为了保证数据的合理性，性能测试数据都是每个测试案例完成多轮测试的稳定值，测试搭建使用独立的性能评测集群高性能计算机并行文件系统，测试前清理恢复初始环境，多轮测试非连续执行，连续执行完整个测试集合后再执行下一轮的测试集合。参数和跑分只是一个概念数字，其实购买笔记本最重要的还是使用，笔者使用了二款常见的办公进行实际测试，如果跑分说术语有点那咱们说说cpu的利用率，在使用ps软件时cpu的利用率在打开的一瞬间是100%之后会降到8%左右的数值，这点至少华硕灵耀3在运行这款软件还是相当流畅的，在运行cad时笔者特意找了一个18mb的cad文件从中测试cpu的性能，在实测过程中cpu利用率基本保持在在30%以内，运行同样得心应手，可以说对于办公来说这款超薄本完全可以处理你所需要的办公文件。

高可用性

IBM GPFS文件系统本身提供了丰富的高可用性功能，所有的GPFS相关的管理服务器都能做到冗余配置，并可以由I/O节点中的任意节点担任。具体从GPFS集群（节点）、逻辑卷（磁盘）及文件系统的管理与维护三个层面得以体现。

但是，如果服务提供方发布服务所在的节点发生故障，那么消费方再怎么重试调用都是失败的，所以我们需要采用集群容错模式，这样如果单个服务节点因故障无法提供服务，还可以根据配置的集群容错模式，调用其他可用的服务节点，这就提高了服务的可用性。google提出了一整套基于分布式并行集群方式的基础架构技术，利用软件的能力来处理集群中经常发生的节点失效问题。样，也可以从要编写应用程序的集群中找到一个并行集群，它可以在节点之间执行负载均衡。

在磁盘阵列划分好逻辑卷（LUN）并映射到相应服务器后，GPFS将每个LUN转换成网络共享磁盘（NSD），同时为每个NSD指定多个（最多8个）管理服务器，可以由任何I/O节点承担。这样可以充分保证任何I/O节点宕机都不会导致逻辑卷的不可用。

在文件系统层面，每个GPFS集群中可以创建最多256个文件系统，每个文件系统都对应多个管理服务器（可以由任何I/O节点承担）。当任何一个文件系统管理服务器宕机时，都会有另外一个服务器自动接替其工作，保证并行文件系统的高可用性。

另外，GPFS支持分布式的元数据服务器，支持元数据自动日志功能，实现用户数据和元数据的备份和自动恢复，当一台服务器宕机时，其管理功能可以有另外的服务器接管，不存在单点故障。GPFS支持多路径磁盘访问，一条路径访问失败，GPFS可以自动尝试其它路径，并同时支持节点和磁盘两级故障切换，对上层应用透明，确保应用的继续执行。GPFS支持分布式的块级锁管理，通过令牌机制来避免并发读写冲突。GPFS还支持rolling update功能，可以升级文件系统。

丰富的功能

这样通过otn线路侧100g提高整网带宽容量，支路则根据实际接入的业务颗粒灵活配置，最终通过otn交叉封装进统一的otu4中进行线路侧长距传输，这样不仅可提供灵活的业务的接入，而且通过颗粒的整合可大幅提高波道利用率40%以上，极大的节省了运营商投资。拉长周期来看，据choice数据统计，近一年来表近一年取得了26%的收益率，交银国企改革灵活配置同期上涨20.86%.此外，博时国企改革股票基金、华安国企改革主题灵活配置以及兴业国企改革同期均上涨了15%以上。建信弘利灵活配置混合基金的申购业务自本基金保本周期到期操作期间截止日次日起不超过3个月的时间内开始办理。

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-112468-1.html