软硬协同,浪潮服务器NF5488M6助力AI训练性能提升

在4月15号召开的IPF 2021浪潮数据中心合作伙伴大会上,浪潮发布了全球性能领先的浪潮服务器NF5488M6。最新发布的浪潮服务器NF5488M6继承了以往服务器高效、可靠的特点,实现硬件和软件的双向升级,率先在极致4U空间内支持2颗Intel最新发布的Icelake处理器和8颗NVSwitch全互联的NVIDIA A100 GPU,通过自研优化的通道压缩、多GPU轮询调度算法,配置领先的AI算力资源调度平台AIStation,充分释放强大的AI计算性能。

浪潮服务器”/

在硬件层面,浪潮服务器NF5488M6是业内同类产品当中首先突破CPU-GPU间通道免中继设计的AI服务器,通信延迟有了大幅度降低。2个最先进的Intel IceLake处理器和8个A100 GPU相得益彰,可以提供强大的AI计算力。为了实现稳定快捷的数据吞吐,浪潮服务器NF5488M6拥有最高可达10TB的RDIMM/LRDIMM/BarlowPass DDR4 3200MT/s内存配置,同时采用8块NVMe SSD实现CPU直通设计,进一步降低了I/O延迟。另外,此款浪潮服务器配有4张200Gb/s Infiniband网卡,支持多节点线性扩展,通过GPU Direct RDMA实现大规模集群极致互联,提供强大的AI算力。

在软件层面,浪潮服务器NF5488M6通过GPU硬件拓扑对GPU的轮询调度进行优化,使单卡至多卡性能达到了近似线性扩展,同时配置浪潮领先的算力资源管理平台AIStation,使浪潮服务器NF5488M6得以实现生产、调度一站式算力平台,充分释放AI计算力。

此外,浪潮服务器NF5488M6支持业内最成熟广泛的AI开发生态,完美支持TensorFlow、PyTorch、MXnet、飞桨等业界主流深度学习框架,并结合GPU Tensor Core 单元的计算特征,通过自研通道压缩算法成功可实现模型的极致性能优化,在精度无损的情况下显著提升AI训练性能。

作为领先的算力基础设施供应商,浪潮在多年的发展过程中积累了丰富的经验和技术体系,此次推出的浪潮服务器NF5488M6就是其经验和技术的沉淀,为用户带来可靠高效的算力支撑。在未来的发展当中,浪潮将继续密切关注行业发展,以客户应用为导向研发高新产品。