对话九天睿芯:从英伟达的今天,看存算的今天和明天

近日,英伟达GTC发布新一代GPU架构Blackwell引发全球热议,生成式AI将重塑千行百业。同时,搭载GB200 Grace Blackwell超级芯片的AI超级计算机——NVIDIA DGX SuperPOD可处理万亿参数模型,支撑超大规模生成式AI训练和推理工作负载持续运行。那么,英伟达GPU的成功,对存算芯片而言有哪些启发?

存算一体(In-Memory Computing),是一种通过更紧密地集成存储和计算资源来提高数据处理效率和速度的技术。在传统的计算系统中,数据需要在处理器和内存之间来回移动,这会导致延迟和能源消耗。存算一体技术的目标是减少这种数据移动,直接在存储位置进行计算处理。存算一体以新的运算架构进行二维、三维矩阵乘法/加法运算,其呈现方式多种,如近内存计算、存储级内存、近存储计算、存内计算等。利用存算一体技术,设备性能不仅能够得到大幅提升,其成本也能够显著降低。因此存算一体被多家技术趋势研究机构确定为今后的科技趋势。

作为存储一体化技术的推动者和代表性企业,九天睿芯曾在由DOIT举办的2023闪存峰会-“存算一体化论坛”发表主题演讲,分享存内计算的落地应用。那么,我们应如何理解存算一体,它和传统的冯诺依曼架构对比,有哪些独特优势?九天睿芯视觉存算一体计算芯片(ADA20X)日前流片成功,性能达到20Tops/W,如何使用类似这样的存算一体芯片?

4月2日下午,DOIT特邀九天睿芯创始人、CEO刘洪杰,与您交流,欢迎您关注视频号“DOIT传媒”预约直播。