宁畅AI服务器首登MLPerf 斩获30项AI性能世界第一

10月22日,AI基准性能评测平台MLPerf官网显示,宁畅信息产业(北京)有限公司(以下简称“宁畅”)搭载NVIDIA T4 /A100 GPU卡的Nettrix X640 G30 AI服务器,在ResNet、BERT、DLRM等基准性能测试中取得30项世界第一成绩。

MLPerf是用于衡量AI、边缘计算等设备性能的基准测试平台,由云服务厂商、OEM厂商、大学、软件公司等超14个组织、50余家知名IT企业共同驱动。该基准测试包括可代表生产级别的测试用例,测试结果在行业内具有较高权威性。

同配置测试获16项世界第一

宁畅工程师介绍,参加MLPerf Inference(推理)基准测试的X640 G30 AI服务器,最高可支持10张NVIDIA A100 PCIe卡或21张NVIDIA T4 PCIe卡,堪称“性能猛兽”。

宁畅AI服务器X640 G30

对比行业同配置AI服务器,X640 G30搭配四张A100 GPU卡的情况下,在Resnet50、SSD、RNN-T、BERT、DLRM等10项测试中分数值取得世界第一;搭配16张T4 GPU卡配置的情况下,X640 G30打破六项世界纪录,性能一骑绝尘。

16卡配置X640 G30部分测试分数对比图

相同配置下取得第一的MLPerf分数,意味着X640 G30 在图像分类、目标检测、医学影像、翻译、推荐、自然语言处理等AI应用场景中有更好性能表现,可为用户带来多高价值。

将多卡性能发挥到极致”

AI服务器所能支持异构计算GPU卡数量,是决定其AI吞吐量的首要因素。依托团队10余年行业经验,宁畅在全国率先在4U标准机箱中实现21张GPU卡配置,将多GPU卡性能优势发挥到极致。

搭配21张T4 GPU卡的X640 G30,在图像分类、语义识别等众多AI基准测试中,超越搭配20张T4 GPU卡配置的服务器,测试分数斩获14项世界第一。

21卡配置X640 G30 MLPerf测试成绩表

不仅多GPU卡的性能优越,在单GPU卡平均性能方面(单卡平均性能=整机测试结果/搭载GPU卡个数),横向比较13家服务器厂商提交MLPerf 的53个配置测试结果显示,X640 G30服务器平均单卡性能获得11项性能第一成绩。

X640 G30平均单卡测试分数对比

宁畅工程师表示,宁畅服务器不仅在MLPerf平台取得多项世界第一成绩,今年早先时候宁畅双路服务器R620 G30,曾在反映服务器性能的SPEC CPU2017测试中,刷新24项世界纪录。

世界纪录的背后,是宁畅工程师为用户提供更优性价比产品,将CPU、GPU等服务器核心部件性能发挥到极致,所做的不懈努力。通过提供硬件、软件等定制化服务,宁畅服务器将有效降低用户TCO(总体拥有成本)。