ChatGPT出现引发AI新变革,企业对计算资源的需求一路飙升,近期有证据显示,AI行业参与企业也在入手本应用于家用台式机的 GPU。
一些游戏玩家和爱好者担心加密货币挖矿热潮重演,导致消费者GPU供应大幅减少,那么继加密货币之后,AI相关公司是不是要开始跟大家抢GPU资源了?
国外反正已经有了一个案例认证,一位黑客+自动驾驶初创公司Comma AI 创始人双重身份的George Hotz谈到购买 AMD 游戏 GPU ,并在公共社交平台作了展示。
网络截图
图片显示了这堆GPU计算能力为7.38 PFLOPS 。可以从照片中清楚看到产品为XFX MERC 310 GPU,盒子上写着AMD Radeon RX 7900 XTX,是基于AMD 旗舰消费级 GPU 和2023 年最佳游戏显卡的 XFX 设计而成。
根据Hotz的发言和图片信息得出,这个7.38 PFLOPS计算量大概有60张GPU卡。每张 RX 7900 XTX 卡市场售价约为979.99 美元,也就是说,这堆GPU大概就是6万美元,折合人民币四十多万元……
未来,还会有exaFLOPS 的算力发展。以1 exaFLOPS为参考,相当于1000 petaFLOPS 的性能。假设楼上这位的目标是购买7.38 exaFLOPS 的GPU计算能力(晒图中所得算力的1000 倍),那么他这次的消费级显卡购买预算可能约为6000万美元。或者他只需要约2 exaFLOPS的算力,那么就要约2000万美元的预算。
值得一提的是,以上购买的AMD GPU中,某些AI工作负载需要大量内存。虽然每块AMD 7900 XTX显卡售价近1000美元,但仅提供122.88 teraFLOPS的计算能力。其实有点奇怪,因为RTX 4060的价格是300美元,就提供约121 teraFLOPS的FP16计算能力。但AMD GPU提供三倍的VRAM(显存,临时存储图像、纹理、帧缓冲区等图形数据)。因此,如果工作负载需要更多内存,就需要三张RTX 4060显卡或两张RTX 4070显卡获取相同的24GB VRAM,还要更多的服务器来容纳这些显卡。这么算,游戏卡似乎更划算一点……
现在AI正在对以计算为中心的 GPU 供应产生深远影响,而对消费者而言,唯一的问题是,这种永不满足的需求会有多大程度渗透到游戏GPU上。