Colossus超级计算机由马斯克旗下的人工智能公司xAI推出，其技术细节令人瞩目。该超级计算机采用超威电脑（Supermicro）的服务器，基于NVIDIA HGX H100方案。每个服务器中拥有8个H100 GPU，封装在Supermicro的4U通用GPU液冷系统内，为每个GPU提供简单的热插拔液冷。每个机架可容纳8台服务器，每个机架内有64个GPU。1U歧管夹在每个HGX H100之间，提供服务器所需的液体冷却。每个机架的底部是另一个Supermicro 4U单元，这次配备了冗余泵系统和机架监控系统。这些机架以8个为一组配对，每个阵列有512个GPU。每块显卡都配备了一个400GbE的专用网络接口控制器（NIC），每个服务器还额外配备一个400Gb的NIC，这意味着每个HGX H100服务器的以太网速度可达3.6Tbps，整个集群都运行在以太网上。
马斯克在超级计算机方面投入巨大。今年5月份，Colossus首次被公开，并在7月份开始运行。马斯克在社交媒体上表示，Colossus的建设“从零到一，仅用了122天”，并称赞其为“全球最强大的AI训练系统”。Colossus装备了10万个Nvidia基准Hopper H100处理器，数量之多超过了任何其他单一的AI计算集群。为了让xAI迅速崛起，马斯克对该初创公司不断大力投入。9月3日，马斯克宣布xAI打造的包含超10万颗英伟达H100GPU的超级人工智能训练集群已经正式上线，该集群名为“Colossus”。他透露，团队花了122天来完成Colossus的上线过程。Colossus还将在未来几个月内增加10万颗GPU，其中，5万颗将是更为先进的英伟达H200，这意味着Colossus的算力将再次翻倍。此外，若xAI新一轮融资成功，估值将达400亿美元。这无疑显示了马斯克在超级计算机领域的坚定决心和巨大投入。
xAIColossus超级计算机的诞生，标志着人工智能领域的又一个重要里程碑。它的强大技术实力和马斯克的大力投入，将为人工智能的发展带来新的机遇和挑战。
xAI Colossus技术细节有哪些
xAI的Colossus超级计算机是人工智能领域的一项重大突破。它由连接在单一网络结构上的10万个液冷Nvidia H100 GPU组成，被认为是世界上“最强大的”人工智能训练系统。
每个GPU配备400GbE的网络接口控制器，确保每台HGX H100服务器达到3.6Terabit每秒的以太网带宽。xAI采用了Supermicro的4U通用GPU系统，每个服务器包含八个H100 GPU，封装在Supermicro的4U通用液冷GPU系统内，为每个GPU提供便捷的热插拔液冷功能。这些服务器装载在机架上，每个机架可容纳八个服务器，即每个机架64个GPU。整个Colossus集群中有超过1500个GPU机架，约200组。
随着GPU数量的增加，散热问题变得越来越严重。Colossus采用了先进的液冷技术来解决散热问题。每个GPU都配备了专门的液冷装置，1U冷却总管夹在每个HGXH100之间，为服务器提供必要的液冷。这些系统具备先进的液冷技术，提升了散热效率，确保了高性能计算的稳定性。液冷设计使得系统在运行高负荷任务时，能够保持较低的温度。液冷技术的应用不仅提高了冷却效率，降低了系统的温度，还减少了噪音污染，为大规模数据中心的可持续发展提供了有力支持。
Colossus的核心是英伟达的H100显卡，该显卡自2022年首次亮相以来，一直被认为是英伟达最强大的AI处理器。H100显卡的运行速度是英伟达上一代GPU的30倍，这得益于其Transformer Engine模块，这是一组专门优化的电路，用于运行基于Transformer神经网络架构的AI模型。
xAI计划在未来几个月内将Colossus扩展至200000个GPU（50000个H200）。这些较新的GPU设计在内存和处理能力方面得到了增强，承诺将提供更强大的计算性能。
除了强大的GPU集群，Colossus还配置了CPU计算服务器。这些服务器多为NVMe直通的1U服务器，采用某种x86平台CPU，配备后置液冷系统，用于存储和CPU计算，为整个系统的运行提供了必要的辅助计算能力。
网络互联方面，Colossus投入巨大。Colossus使用的英伟达Spectrum-X以太网网络平台，就是为多租户、超大规模的AI工厂提供卓越性能而设计的RDMA（Remote Direct Memory Access）网络。每块显卡都配备了一个400GbE的专用网络接口控制器（NIC），每个服务器还额外配备一个400Gb的NIC，这意味着每台HGX H100服务器的以太网速度可达3.6Tbps。整个集群都运行在以太网上，而非超级计算领域常用的Infiniband或其他异构连接。这种以太网连接方式在保证高带宽的同时，也降低了网络连接的复杂性和成本。
为了确保超级计算机的高效运行和管理，xAI团队开发了专门的操作系统和管理软件。这些软件能够对硬件资源进行合理分配和调度，监控系统的运行状态，及时发现和解决潜在的问题，保证系统的稳定性和可靠性。
Colossus超级计算机将服务于马斯克旗下xAI，该公司专注于前沿生成式人工智能技术的研发。它已经推出的项目包括Grok，这是一个因支持言论自由而闻名的、有争议的聊天机器人。借助“巨像”无与伦比的计算能力，xAI正加速推进Grok及其他人工智能模型的训练进程，旨在解锁更多功能，并实现性能飞跃。
马斯克对超级计算机投入有多大
马斯克在超级计算机方面的投入可谓巨大。埃隆·马斯克激活全球最强人工智能超级计算机，为他的人工智能初创公司xAI在田纳西州建造了Colossus。这台超级计算机是用英伟达H100图形处理单元构建的，仅采购英伟达H100 GPU估计耗资就达30亿美元。每颗GPU的造价都不菲，约为4万美元。
为了确保获取到这最新的10万块H100 GPU，马斯克可能不得不再花费数十亿美元。此外，马斯克旗下的特斯拉也在超级计算机方面有投入。特斯拉在“德州超级工厂”拥有一台50000个GPU的Cortex超级计算机，其目的是通过摄像头和图像检测来训练特斯拉的自动驾驶AI技术，以及特斯拉的自动机器人和其他AI项目。
特斯拉将加入愈演愈烈的算力大赛，明年底之前，将花费远远超过10亿美元在Dojo项目上。Dojo是特斯拉自研的多芯片模组化超级计算机，最初主要服务于自动驾驶系统的数据标注以及训练，后也被应用于机器人研发。
马斯克旗下xAI被曝正洽谈新一轮融资，估值将达400亿美元。若融资成功，xAI有望在半年不到的时间里将估值增加超六成。为了让xAI迅速崛起，马斯克对该初创公司不断大力投入，9月3日，马斯克在X平台上宣布，xAI打造的包含超10万颗英伟达H100 GPU的超级人工智能训练集群已经正式上线。
xAI的Colossus超级计算机是人工智能领域的一颗璀璨明星。其强大的技术细节和马斯克的巨大投入，彰显了在人工智能领域的雄心壮志。Colossus的液冷技术、高带宽网络接口控制器以及强大的GPU配置，使其成为世界上最强大的人工智能训练系统之一。马斯克在超级计算机方面的投入不仅体现了他对人工智能的重视，也为人工智能的发展提供了强大的动力。未来，随着技术的不断进步和投入的持续增加，Colossus有望在人工智能领域发挥更加重要的作用。
xAI Colossus超级计算机的出现，标志着人工智能领域的算力水平达到了一个新的高度。它不仅为xAI的人工智能研究和应用提供了强大的支持，也为整个行业的发展树立了新的标杆。随着人工智能技术的不断发展，超级计算机的性能和技术水平还将不断提升，马斯克在这一领域的投入和贡献也将继续受到关注。
