业界首个:华为全流程AI开发框架ModelEngine开箱即用

全球开源技术峰会(GOTC2024),由开源中国与上海浦东软件园联合举办近日在上海开幕。

华为数据存储软件首席专家张群辉受邀在此峰会分享ModelEngine在垂域大模型领域的实践应用。

据介绍,ModelEngine是华为DCS(Data Center Stack)全栈的AI训推全流程工具链,涵盖了从数据处理、知识生成,到模型微调和部署,以及RAG应用开发、应用部署等环节。旨在为数据处理工程师、模型工程师、应用开发者提供高效易用、开放灵活和开箱即用的全流程AI开发体验。

张群辉进一步指出,ModelEngine以开放的数据使能、模型使能和应用使能工具链为基础,支持开放的数据处理算子、主流的模型和开放的应用算子。这种开放性使得语料生成时间可以从原本的数月缩短至几天。

针对开发者,ModelEngine提供一站式AI应用开发、评估优化和部署服务,能够快速构建高准确率的AI应用。此外,ModelEngine还支持LangChain、LlamaIndex等插件,保护已有AI资产。

展望未来,ModelEngine将继续增强其可扩展性和定制化能力,优化性能和效率,并提供更多的应用示例,以满足开发者在不同场景下的多样化需求。