英特尔Xeon 6的AI推理性能提升了90%

英特尔近日发布了其下一代Xeon 6处理器在MLPerf性能基准测试中的表现数据,并确认Xeon 6900P系列芯片将于9月正式发布。

在MLPerf Inference v4.1基准测试中,英特尔声称其Xeon 6处理器在AI性能上实现了巨大提升,特别是即将发布的Granite Rapids-AP架构“Xeon 6900”系列处理器,预计将在下个月进入服务器市场。英特尔表示,与第五代Xeon “Emerald Rapids”处理器相比,Xeon 6的AI推理性能提升了最多可达1.9倍的几何平均值。

英特尔还指出,Xeon 6处理器的性能提升相较于第三代Xeon “Cascade Lake”系列高达17倍,这一巨大进步得益于新处理器中集成的AI加速器和新指令集(如AVX-512 VNNI)的应用。英特尔首次在MLPerf Inference v4.1中提交了第五代Xeon和最新Granite Rapids “Xeon 6900P”处理器的测试结果。该基准测试涵盖了ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J等六项测试,Xeon 6980P处理器在所有这些测试中的AI推理性能都提升了1.9倍。与2021年发布的第三代处理器相比,Xeon 6980P在BERT上的性能提升约为17倍,在ResNet50上的提升则达到了15倍。

英特尔数据中心与AI软件部企业副总裁兼总经理Pallavi Mahajan表示:“最新的MLPerf测试结果显示了持续投资和资源配置对于提升AI性能的重要性。在过去四年中,我们通过MLPerf将Xeon处理器的AI性能提升了多达17倍。随着今年晚些时候的全面上市,我们期待与客户和合作伙伴共同推动Xeon 6的应用。”

Xeon 6 6980P处理器配备了惊人的128个核心和256个线程,主频范围为2.0GHz至3.2GHz,L3缓存高达504MB,TDP为500W。除了6980P外,Granite Rapids AP系列还包括其他四款处理器,其核心/线程配置从72核心/144线程到120核心/240线程不等。英特尔已经推出了首款Xeon 6产品线——Sierra Forest “Xeon 6700E”系列,而9月将发布高端的P-Core家族Xeon 6900P(128核心),之后在2025年第一季度发布Xeon 6900E(288核心)和Xeon 6700P(86核心)。

对于英特尔而言,这样强大的AI性能至关重要,因为其拥有五大OEM合作伙伴:思科、戴尔科技、HPE、广达和超微,这些公司使用英特尔的Xeon处理器来构建和销售计算机和服务器。英特尔将在9月的官方发布会上公布更多关于Granite Rapids AP “Xeon 6”处理器的详细信息。