英特尔至强6家族,为AI数据中心注入强劲动力

继去年9月重磅推出英特尔® 至强® 6900性能核处理器后,英特尔进一步扩充至强6产品家族,于近期发布了包括至强6700性能核处理器及至强6500性能核处理器在内的多款新品,以更丰富的产品组合、卓越性能与出色能效,应对横跨数据中心、网络与边缘的广泛工作负载需求。

丰富的至强6产品组合

英特尔至强6性能核处理器专为计算密集型工作负载而设计,提供高度灵活的配置选项。从最低16个核心到最高128个核心,客户可根据实际应用选择最佳配置。针对传统大型数据库等对连接速度和多核并行处理能力有较高要求的场景,全新至强6700/6500性能核处理器不仅在核心数量、I/O带宽和内存容量上带来了显著提升,还新增了对四路和八路服务器运行的支持,通过高速UPI互联,充分释放多核性能,更好地满足客户对高性能数据库应用的需求。

与最高配备128个核心的至强6900性能核处理器一样,至强6700/6500性能核处理器也支持高达6400MT/s的DDR5内存、8800MT/s的MRDIMM内存和64条CXL 2.0通道,CXL扩展内存让用户能以更低的成本拓展服务器的内存空间。通过CXL 2.0技术,英特尔还提供了“Flat Memory Mode”功能,可以自动切换热数据和存储在CXL内存上的温数据,实现性能和容量之间的平衡。

对于需要大规模存储解决方案(SSD)的企业,以及依赖内容分发网络(CDN)提供流畅视频体验的平台,I/O连接能力非常重要。此外,AI服务器需要连接多个GPU,也对CPU和平台的I/O扩展性提出了更高要求。至强6700/6500性能核处理器支持多达136条PCIe通道的单插槽平台,提供强大的可扩展性,满足了对高连接性的需求。

数据中心的机头节点

在现代AI系统中,GPU与CPU都发挥着非常重要的作用。机头节点CPU不仅需要具备卓越的 I/O 速度、强大的单线程性能以及高内存带宽和容量,还需要满足大型系统全天候运行所必需的可靠性、可用性的可维护性( RAS)需求。此外,灵活支持各种不同的外形和配置,对于优化数据中心的空间利用率、提升散热效率、以及适应多样化的工作负载也很重要。

作为AI系统的机头节点CPU,至强6可与GPU搭配,通过提供更快的I/O速度和更好的单核性能,充分发挥GPU的潜力。在典型的双路CPU机头节点配置下,至强6700性能核处理器平台最高可提供172个CPU核心(344线程),并配备16个DDR5高速内存通道(32个内存插槽)、176条PCIe 5.0链路(其中128条可配置为CXL 2.0链路)。

强大的AI推理性能

在AI推理方面,至强6处理器凭借内置的AI加速引擎AMX(英特尔高级矩阵扩展)的出色能力,可以让系统以更少的核心,获取高达1.5倍的AI推理性能提升1。这一优势使其在传统机器学习、小型生成式AI模型和GPU加速工作负载中表现出色。对于传统的AI应用,如推荐引擎、语音助手、图像识别等,至强6可以提供强大的计算支持。即使面对参数小于20B的小型生成式AI模型,至强6依然能展现出色的性能。

此外,对于小型语言模型的AI推理来说,不仅在生成首个Token时需要高强度计算,后续推理过程同样对内存带宽有着极高的要求。至强6处理器率先在业界支持MRDIMM技术,提供高达8800MT/s的超高速内存。在MRDIMM技术的加持下,带宽实现倍增,使得小型LLM、传统深度学习和推荐系统等AI工作负载能够在至强平台上流畅运行,极大释放了至强6性能核处理器的潜力。

以卓越的性能与能效,助力数据中心整合升级

在AI驱动下,算力需求以前所未有的速度增长,与此同时,数据中心对CPU算力的需求也在同步增长,且亟需以整合升级的方式迎接新挑战。与通常侧重于升级硬件的典型更新周期不同,数据中心整合更深入,更侧重于优化现有资源以降低成本、提高可扩展性,实现可持续发展。因此企业在进行基础设施焕新时,不仅关注性能提升,同时也非常注重空间、能耗和成本的节省。

至强6处理器以卓越性能和能效,为数据中心整合升级提供了理想的解决方案,不仅能以更少的服务器提供更高的算力,还能显著降低能耗和总体拥有成本(TCO)。以五年为更新周期、应用最广泛的第二代至强为例,至强6处理器凭借出色的每瓦性能效率,在数据服务工作负载中,平均可实现一台新服务器替代五台旧服务器2,在图像识别和网络服务工作负载中,甚至可实现一台新服务器替代十台旧服务器,从而帮助降低高达68%的TCO3

面对日益多样化和海量化的算力需求,英特尔至强6系列处理器以卓越性能和出色能效,已经在数据中心生态系统中得到广泛应用。目前,已有超过500款基于至强6处理器的产品设计推出或正在开发中。英特尔不仅通过基于x86架构、横跨软硬件的开放解决方案,为企业提供强大易用的AI系统,更与广泛的生态合作伙伴携手,共建AI生态系统,以更佳的每瓦性能和更低的TCO,加速从数据中心到云、边缘、PC的各种工作负载。

注释:

  1. 详情请访问 intel.com/processorclaims  [7A220]:英特尔® 至强® 6,结果可能不同 。
  2. 详情请访问 intel.com/processorclaims  [Geomean 7T21-7T26]:英特尔® 至强® 6,结果可能不同。
  3. 详情请访问 intel.com/processorclaims  [7T21]:英特尔® 至强® 6,结果可能不同 。