日前,三星宣布开发出业界第一款结合了AI能力的HBM芯片——HBM-PIM。作为一款新的内存处理(PIM-processing-in-memory)体系结构,由于有了AI计算能力,所以,可以用来提高数据中心、高性能计算(HPC)中的大规模数据处理效率。
三星表示,HBM-PIM是业界第一个可编程的PIM解决方案,主要针对各种人工智能驱动的工作负载而设计,会与人工智能方案提供商进行合作,开发出先进的PIM应用。
如今,绝大多数计算系统都是基于冯诺依曼体系架构设计的,它采用独立的存储和处理单元来执行数百万复杂的数据处理任务,由于需要让数据在两者间不停的来回迁移,所以会带来一定的系统瓶颈,当需要处理的数据量越来越大时,瓶颈就越来越明显。
HBM-PIM的做法是在每个内存库(Memory Bank,一个存储子单元)中放置一个DRAM优化的AI引擎,将数据处理能力放到了存储数据的地方,从而最大化减少了数据移动的操作。
把HBM-PIM应用于三星的HBM解决方案HBM2 Aquabolt时,系统性能提升了两倍以上,同时,能耗降低了70%以上。
值得一提的是,HBM-PIM无需更改任何硬件或软件,可以很轻松地集成到现有系统中。
目前,AI解决方案合作伙伴正在验证测试三星的HBM-PIM方案,预计,将在今年上半年完成。
原文:https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-power