有国外报道称，在近日举办的AI-PIM半导体研讨会上，投资与证券机构负责人称，去年HBM的总需求约为3.2亿GB，今年预计需求将增长至10亿-12亿GB。
HBM（高带宽内存），属于存储一体化中的近内存计算（NMC）类型，目前业内认为与AIGC极为适配，出货量出现大幅增长顺理成章。其与平面板级连线不同，加入interpose的特殊有机材料（线宽，节点间距优于电路板）作为中间转接层，就像一个有底座的硅芯片，和堆乐高同理，CPU周边相当于增加了很多“凹槽”，连接多个HBM2（DRAM芯片）堆栈（甚至可以采用更便宜的90-130纳米芯片制程工艺）来实现高密度和高带宽。
HBM最新的进展是，东京工业大学研究团队的一个研究项目是3D DRAM堆栈，命名为BBCube 3D，称削薄了每个DRAM芯片，去掉了晶圆叠层 (WOW) 设计中的微凸块。据称与DDR5 或 HBM2E（第二代高带宽内存）设计相比能让内存块以更高的速度和更低的能耗运行，因为前者运行温度更高，并且凸块会增加电阻/电容和延迟。
HBM的需求增长主要推动因素包括：
AI和机器学习的快速发展：随着AI技术的进步和应用的扩展，对高性能计算解决方案的需求不断增长。
数据中心的扩展：数据中心正在扩大规模，以满足云计算和大数据处理的需求。
游戏和娱乐行业的需求：高端游戏和虚拟现实应用对高性能内存的需求也在不断增长。
当前三星电子、SK海力士和美光是HBM技术的主要生产商。这些公司预计在今年上半年将量产第五代HBM（HBM3E），HBM技术正在不断进步和改进。
除了HBM之外，PIM（存内处理）技术也显示出强劲的增长潜力。PIM是一种新一代半导体技术，它可以在内存内独立处理数据计算功能，从而提高功率效率。这项技术减少了将数据从现有内存发送到CPU和GPU等系统半导体的需求，对降低能耗和提高系统效率至关重要。
