戴尔与Hugging Face合作,帮助企业在本地安全地部署大模型

近日,外媒报道称,Hugging Face与戴尔达成合作,支持将其定制化的生成式AI模型部署在戴尔的服务器和存储产品上。

Hugging Face提供各种开源的大型语言模型,与很多大型IT企业都有合作,比如英特尔、AWS等,与AMD也有合作,与AMD的合作主要是支持在Instinct和Alveo加速器上运行更多开源模型。

现在,Hugging Face将在其平台上构建一个戴尔入口,帮助用户在戴尔的服务器和存储上部署定制化大型语言模型(LLM)。

戴尔首席人工智能官 Jeff Boudreau 对此发表了声明:”戴尔科技的 GenAI 能力与 Hugging Face 的数据集和库集合相结合,不仅为用户提供了开源 GenAI 模型的自由度,还提供了本地部署时需要的安全性和可靠性,让用户高枕无忧”。

Hugging Face的产品与增长负责人Jeff Boudier也表示:“这次合作将使企业能够利用开源社区的惊人创新能力来构建自己的AI系统,同时,享受戴尔系统的安全性、合规性和性能优势。”

Hugging Face的戴尔入口将包括定制的专用容器和脚本,帮助用户在戴尔服务器和存储系统上部署其开源模型。

戴尔全面投入AI领域。它刚刚宣布推出全闪存存储设备ObjectScale XF960和戴尔验证设计AI解决方案,包括其PowerEdge XE9680服务器,该服务器结合了X86 CPU和多达8个英伟达H100 GPU。

Hugging Face在其目录中列出了超过300,000个大型语言模型,并提供预训练模型、库、工具和资源,以简化使用流程。

Hugging Face成立于2016年,总部位于纽约布鲁克林,提供开源自然语言处理技术。该公司已经在六轮融资中筹集了3.952亿美元,最近一轮D轮融资是在今年8月,金额为2.35亿美元。