幕后世界上性能最高的分布式存储系统

-作者王欣

随着5G /大数据/ AI的发展，非结构化数据激增，并且更加关注TCO和效率提高，大容量（云），大带宽（视频，HPC / AI），融合存储（数据湖）场景正在迅速增长，云时代要求新的架构数据存储. 如果说集中存储是火车，那么分布式存储就是云时代的汽车. 行业关键客户的基于云的转型已进入深水领域，而分布式存储的趋势已经到来.

分布式存储从应用程序开发测试以及备份和存档方案开始，然后逐渐进入虚拟化/云，大数据，HPC / AI等方案. 每个人都更加关注分布式存储的可伸缩性和成本性能分布式存储网络，但新方案已分发. 分布式存储的高性能和低延迟提出了更高的要求.

分布式存储性能提升的顶峰效应出现

很长一段时间以来，分布式机械的IO性能和延迟一直受到传统机械硬盘驱动器访问速度的限制. 但是，随着闪存驱动器的广泛采用，分布式存储的整体性能得到了极大的提高，并且还为分布式存储打入高价值存储市场提供了更多可能性. 但是，在全闪存分布式存储系统中，通过增加存储节点的并发性来提高性能的传统方法变得越来越高. 随着节点数量的增加，性能提升非常有限. 延迟的增加将大大增加.

传统网络的拥塞和丢包机制已成为黑手党

为什么全闪存存储的分布式存储随着节点的增加，性能提升不明显，但是延迟会急剧增加？对IO端到端延迟的分析发现，随着闪存介质的延迟减少，网络的延迟已成为显而易见的短板. 在传统的硬盘时代，90％的延迟来自硬盘访问延迟，而网络延迟可以忽略不计. 但是在闪存时代，美国级别的媒体访问延迟几乎可以忽略不计，并且超过65％的延迟是在网络中，尤其是在分布式存储中，存储节点的增加增加了网络拥塞并带来了更高的网络延迟. 进一步的分析表明，网络中总延迟的90％来自拥塞引起的网络交换机中的排队和数据包丢失. 存储节点的数量越多，拥塞程度越大，则导致丢包现象更加严重，并且重传造成的延迟是完全不能接受的.

华为AI Fabric真正实现了零丢包和100％释放存储性能

如何构建零损失网络已成为分布式存储要突破性能极限所必须解决的问题.

当我们知道大型网络中的流量超过了交换机的处理和缓冲能力时，基本的以太网处理机制就是丢弃数据包. 尽管无损网络的实现包括一系列流量调度机制和措施，但其核心在于控制发送端的发送速度，从而避免形成超过交换机处理能力的拥塞.

如何根据交换机当前的拥塞情况准确控制信号源的发送速度？行业中当前的基本实践是设置排队以在交换机端口上排队数据包. 一旦超过某个阈值（临界水线），则意味着可能发生拥塞，并且背压降低信号将被发送回源，从而导致拥塞和数据包丢失. 因此分布式存储网络，阈值非常关键，它影响发送背压信号的时间，并且是网络拥塞的决定性关键因素. 如何设置阈值已成为无损网络技术创新和技术发展的主要重点，大致可以分为三个阶段.

过去: 静态设置，粗略的背压

最早的无损以太网交换机的基本实现依赖于网络管理员静态设置阈值，尤其是测试管理员的能力. 如果设置过于保守，则可能会放慢太多速度，吞吐率非常低；如果设置过于激进，则将无法正常工作. 在FCoE早期，流量模型相对简单，基本上可以满足业务需求. 但是，由于当前的RoCE流量模型复杂且易变，因此静态阈值无法满足不断变化的需求，因此该设置方法已被放弃.

现在: 动态调整，实时反馈

一些领先的网络制造商在静态设置的基础上，建议根据流量模型的变化实时调整阈值，以不断逼近最佳值，在吞吐量和丢包率之间取得平衡，并取得了良好的效果. ，现已成为领先公司的主流选择.

但是，动态调整问题需要实时收集和分析流量，这在大型机架设备上很难实现. 另外，尽管不断地调整以达到最佳值，但是调整过程和最佳值仍然存在差距.

未来: 智能预测，精确控制

2019年初，华为发布了业界第一款针对AI时代的CloudEngine数据中心交换机. 它是第一个将AI芯片嵌入交换机的公司，并创建了原始的iLossless智能无损交换算法，以实现100％网络吞吐量下的真正零数据包丢失和E2E. μs电平延迟. 根据测试结果，效果无限期逼近最佳值，确保无论网络多么拥挤，基于零数据包丢失，吞吐量都接近100％，这就是AI Fabric. 由AI Fabric建立的行业真正实现了零丢包的以太网，它可以将分布式存储网络延迟持续稳定在10us以下，揭开存储上限，并充分释放存储性能.

AI Fabric帮助华为分布式存储系统达到全球领先水平

目前，AI Fabric已应用于华为最新的OceanStor D系列分布式存储. 在相同条件下，AI Fabric可以将延迟减少15％，帮助将存储IOPS性能提高20％以上，并影响单节点16.8 10,000 IOPS的新高度. 特别是，AI Fabric确保通过添加存储节点可以几乎线性地提高性能，同时使延迟基本上保持不变.

以下是实验室模拟的不同业务负载下的分布式存储延迟和性能. 可以看出，打开AI Fabric后，延迟减少了15％以上，最大IOPS增加了45％.

与此同时，华为云今年推出了基于OceanStor分布式存储基础的云盘. 它已成为世界上性能最高的云磁盘，其单卷性能超过100万IOPS，延迟为75us. 这也是AI Fabric在支持海量数据场景时极低延迟的原因.

事件预览

2020年，华为中国生态大会进入第十个年头. 站在十年的起点上，本次会议将为您介绍一个崭新的生态篇章. 为聚会而成长— 2020年华为中国生态大会，“华为登台，合作伙伴唱歌剧”的“众筹会议”模式启动，我们诚挚地邀请您共同参与，将数字世界带给每个家庭，每个组织，建立一个由万物互联的智能世界.

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-195120-1.html