Meta改组AI部门,着手训练Llama 3

《The Verge》近期称,为了使AI成为公司发展核心,Meta大举改组旗下AI研发部门Facebook AI Research(FAIR)与产品部门合并,并已开始训练下一代大型语言模型Llama 3,也可能将之开源。

报道指出,Meta本周改组FAIR部门,将其与产品进一步整合,以便AI成为驱动Meta产品开发的核心引擎。在此变动中,FAIR将从Reality Labs变成产品部门的一部份,主管Joelle Pineau及首席科学家Yann LeCun也将由技术长Andrew Bosworth辖下改向产品主管Chris Cox报告。

《The Verge》取得Cox的内部员工公开信指出,这次变动将使AI研究成为公司及产品的关键元素,将FAIR及生成式AI(GenAI)整合可让公司有一致化的AI研究布局及蓝图,而Llama也将成为Meta公司向AGI(artificial general intelligence,通用人工智慧)前进的主要载具,以及更具效率的开发流程,以便研发通过法律、政策及品牌严格检视的AI技术。

这次改组也反映了Meta CEO Mark Zuckerberg表达的公司对AI更大的企图及投资意愿。Zuckerberg表示为了开发出想要的产品,必须建立AGI。AGI是指在各种领域和任务中,表现出与人类相媲美甚至超越人类的智慧行为的AI系统。他指出,Meta的企图是打造优异(stat of art),最终成为业界第一的模型。并承诺未来会考虑开源Llama 3。

为了训练AI,Meta将继续采购GPU打造基础架构。计划今年底前公司将有超过34万颗Nvidia H100 GPU,而结合其他芯片,Meta预计将达到60万H100的GPU运算容量。