韩国初创公司Panmnesia正在开发一种技术,可以在多个服务器之间连接数百个内存设备。
Panmnesia支持CXL 3.1标准,该标准解决了远程内存池化和PCIe 6.0互连问题,使基于CPU和GPU的服务器能够共享外部内存,并与其自身的直连的DRAM相结合,从而增加内存容量,提高运行内存密集型AI工作负载的能力。
Panmnesia的CEO Myoungsoo Jung在一次演讲中表示:“我们的CXL 3.1交换机不仅能降低服务器的运营成本,还能通过我们的高性能CXL IP在性能方面实现实际的内存扩展。”
CXL 3.0允许通过CXL交换机访问的外部内存池,内存池在多个主机之间共享,主机和CXL内存终端或扩展器之间具有一致的缓存。而CXL 3.1在此基础上增加了多个特性:
- 通过端口路由(PBR)扩展的CXL结构改进
- 支持虚拟化的可信执行环境(TEE)安全协议(TSP),用于承载机密计算工作负载
- 内存扩展器改进,包含高达32位元数据和RAS能力增强
今年早些时候,Panmnesia推出了一款支持CXL的AI加速器。该公司正在开发代号为Shattuck的v3.1 CXL交换芯片和系统芯片(SoC),并声称其CXL 3.1 IP的延迟低于100纳秒,这将是全球首创。
这款交换芯片连接CPU、GPU、内存和加速器等系统组件,管理它们之间的端到端通信。通过级联、多级的概念,它允许多个交换机在多个级别上连接,或配置为类似结构,使得能够在多个服务器之间连接数百个设备。
此外,它将支持先前的CXL标准,包含类型1、2和3设备,以及CXL的所有子协议——CXL.mem、CXL.cache和CXL.io。
Panmnesia计划在2025年下半年向客户提供其CXL 3.1交换芯片。