2023年12月15日,英特尔发布代号为Emerald Rapids的第五代英特尔至强可扩展处理器,更多的核心,更大的缓存,全新的芯片底层架构,相较于年初发布的第四代又有了更多提升。
从英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立的介绍中了解到,第五代英特尔至强可扩展处理器,其性能相较于上一代提升了21%,AI推理性能提高了42%,内存带宽也提升了16%。此外,它是目前最绿色的至强处理器。
2023年1月10日,第四代英特尔至强可扩展处理器“Sapphire Rapids”发布,它支持DDR5、PCIe Gen5代,也支持CXL的Type1和Type两类设备,内置了多个加速器,最高60个核心。
一年发布两代处理器的操作,几年前在酷睿的11和12代上也发生过。而第五代至强也可以看做是第四代的一个升级版,它带来的变化没有第四代那么大。并且,现在第四代的主板升级一下BIOS就可以用直接第五代。
第五代至强的核心数从原来的最高60核提高到了64核,而L3缓存则从原来最多105MB提高到了320MB。内存虽然还是8通道,但内存提高到了DDR5-5600。负责CPU之间通信的UPI最高速度达20GT/s。
第五代的制造工艺跟第四代有较大变化,设计有所简化。从上图可见,第五代只有两个die,die间也只有三个连接桥。而第四代则有四个小芯片组成,芯片之间的桥接数是4个,两两互联,对角线没有直连。
第五代两个die的设计最大的好处是可以降低延迟,如上图所示,在XCC(特别多核心)SKU下的大部分延迟数据中,它的延迟都更低,为性能提升打下了基础。
虽然还是支持CXL 1.1,但这次第五代至强可扩展处理器正式支持CXL Type 3设备了,也就是用作内存扩展的设备。
这意味着,除了用原来的DDR内存,也能通过CXL连接额外四个CXL内存设备了,加起来就是12个通道。
不过,由于CXL 1.1标准还只是在单机范畴内扩展内存,到了CXL 2.0才能引入CXL交换机的概念,才能跨系统设备实现内存池的共享。
第四代英特尔至强可扩展处理器提供了SGX(Intel Software Guard Extensions-软件防护扩展),这是一种能保护代码和数据的技术,即使在系统的其余部分被攻破的情况下,敏感数据也能得到安全保护。
而第五代在此基础上新增了TDX(Intel Trust Domain Extensions-可信域拓展),这是一个虚拟机隔离技术。从上图可见,它相较于原来保护应用数据的SGX的基础上,又往下走了几层,使虚拟机也能在受保护的范围里运行。
陈葆立介绍称,英特尔SGX在过去的一年里得到了许多中国客户的采用,它提供了一个隔离用户应用软件的可信空间,而TDX则为用户提供更大的可信空间,使得它在操作系统层面就拥有安全隔离,这将为用户提供更为安全的保障。
陈葆立表示,第五代英特尔至强可扩展处理器在每个内核上都具备了加速器功能,可以用来处理包括大模型在内的AI工作负载。与合作伙伴合作的测试中,已经成功在第五代至强可扩展处理器上运行高达200亿参数的模型推理。
英特尔率先开始在至强里内置AVX-512指令集,而后,在第四代英特尔至强可扩展处理器里加入了内置的AMX加速器。新的五代则让AMX light和AVX512 heavy可以支持更高的Turbo频率,从而提高AI推理性能表现。
此外,英特尔还分享了一些资料,展示了第五代至强可扩展处理器,与此前的第四代和第三代相比,所带来的巨大的提升。与第三代相比,平均性能提升了1.84倍,而AI推理和训练性能提高了最高14倍。
此外,这次第五代至强可扩展处理器的SKU数要比第四代少很多,这次只有32个,而第四代大约有50多个SKU。
对比之下,一些XCC(核特多)型号的第五代至强更有性价比。以同样56核的来对比,上一代的8480+对比这一代的8570,前者价格是10710美元,后者则为9595美元。而且,前者的L3缓存仅为105MB,后者则为320MB。同时,后者在主频以及内存方面规格更高。
以32核为分界线,32核以及以下的SKU,大部分MCC(核一般多)SKU价格都与上一代一样。同样的价格下,一些SKU的主频或者L3缓存也有所提升,整体上,第五代至强还是更有性价比。
32个SKU当中也有很多定制型号,其中,以P和V结尾的都是给云厂商准备的,N结尾的是给网络场景准备的,S结尾的面向存储场景,Q结尾的是给液冷场景准备的。
第五代英特尔至强可扩展处理器相较于上一代,在Web应用,数据服务,HPC,AI以及网络方面,性能表现均有所提升。
在每瓦性能方面也都有所提升。
在TDX的加持下,第五代英特尔至强可扩展处理器的虚拟机性能最高可提升11%。
最后,在AI训练,AI实时推理以及AI批量推理场景中,第五代英特尔至强可扩展处理器也有较为明显的提升。
有业内人士反馈,因为DDR5成本原因,在一定程度上阻碍着新平台的采用。
而现在,英特尔甩出了这样一组数据,帮助用户看清楚新平台在降低TCO方面的优势,还在使用旧平台的用户可以了解一下。