12月3日,以“AI赋能 共筑数字新生态”为主题的2024数字科技生态大会在广州召开。主论坛上,中国电信集团有限公司总经理助理,天翼云科技有限公司董事长、总经理胡志强对“息壤”一体化智算平台的最新升级和应用进行了介绍。通过在算网调度、智算服务、智算生态三个方面的大规模商用,天翼云“息壤”已广泛赋能各行业转型升级。
人工智能是发展新质生产力的重要引擎。作为云服务国家队,天翼云积极把握云智一体发展方向,坚持科技创新,构建以“息壤”为核心的一体化智算服务平台,助推产业向智向新。
胡志强介绍,“息壤”以构建全国一体化算力网为目标,有效整合各方异构算力资源,向全社会提供标准化算力服务,培育算力产业生态。通过不断迭代演进,“息壤”从算力互联调度平台升级成为集算网调度、计算加速、模型训推于一体的智算服务平台,并实现了规模商用。
中国电信集团有限公司总经理助理,天翼云科技有限公司董事长、总经理 胡志强
在一体化算网调度方面,面向公共算力服务场景,天翼云为高校科研、智能汽车、央国企等行业提供充沛算力;面向城市算力网场景,天翼云持续扩大应用范围,已经为深圳、北京、上海、苏州等多个城市构建城市算力网;面向高校科研场景,天翼云整合校内外资源,内置多款科研应用,提供一站式科研实训环境,服务多所高校数百个科研团队。以某教育行业客户为例,客户通过“息壤”接入校内各院系分散算力和超算平台,再叠加应用托管、科研助手、智算服务等能力,满足教学科研多样化算力需求,大幅度提升了学校的算力运营水平。
在一站式智算服务方面,面向国产单集群万卡训练场景,天翼云通过自研算力加速技术、AI训练框架和断点续训能力,大幅提升训练效率,模型训练恢复时间从小时级降低到分钟级,有效训练时长占比提升到国内领先水平,有力支撑了中国电信星辰万亿级参数大模型的训练;面向行业模型精调和推理场景,帮助某著名三甲医院临床研究所快速精调了面向临床辅助决策的医疗行业模型;同时,为了让国产算力更好用,天翼云提供模型适配和算子开发服务,以及全流程可视化的模型迁移适配工具链,并在多个项目中得到验证,显著降低了国产算力的大模型训推门槛,比如天翼云助力某交通行业客户推出行业大模型,借助全栈适配工具链,使模型适配时间大幅缩短,训练性能大幅提升,实现其30多个AI应用快速上云。
在智算生态建设方面,天翼云全面开放“息壤”平台的智算能力,打造魔乐开发者社区,推动开发者广泛应用国产化算力。目前,魔乐社区已发布5800个模型和145个应用。社区联合多家伙伴,推出“国产算力模型应用创新计划”,孵化国产原生模型。同时,通过举办“天翼云息壤杯”高校AI大赛,已吸引超3800支参赛队伍,既为国家和社会培养AI人才,又促进了国产算力的技术成熟和生态繁荣。
基于不断迭代的智算服务能力以及全面开放的智算生态,天翼云“息壤”已经成为在智能时代为全社会提供智算服务的国家云平台新形态。天翼云将继续坚持科技创新,锚定人工智能发展方向,携手产业伙伴共筑数字新生态,为经济社会高质量发展不断注入创新动能。