2023年2月28日，世界移动通信大会(MWC 2023)期间，中国电信&华为2023云网核心能力创新成果全球发布会上，中国电信携手华为发布星河AI统一推理框架。
星河AI统一推理框架，专注AI算法开发和性能提升，实现底层异构算力协同，带来效率和性能大幅提升。
随着人工智能产业不断发展壮大，多样化算力需求场景不断涌现，AI在行业逐步渗透，AI处理器层出不穷，包括擅长图形运算的GPU、专注于更高效人工智能神经网络处理的NPU等。实际业务应用过程中，底层的AI异构计算平台多，API接口不统一，呈现烟囱式的应用开发，导致AI应用开发门槛高、代码维护成本高。
“通过星河AI统一推理框架，根据不同硬件底层接口，向上将推理业务流抽象封装出业务功能模块接口，开发者只需要关注业务逻辑，无需关注底层硬件接口。”中国电信科技创新部副总经理罗锐在发布会上这样说到。
从底层技术实现维度，中国电信数字智能科技分公司AI研发中心高性能计算技术总监朱庆军给出专业的答复：“星河AI统一推理框架致力于提升AI开发效率及性能提升，上层基于电信AI业务场景开发的技术沉淀，下层依托昇腾推理开发使能套件，快速实现AI应用开发，支持云边协同，业务部署达成小时级一键部署“。当前基于该平台已完成90%以上自研CV应用的开发，超过1000+AI算法完成适配迁移，助力500多个产业数字化项目落地。
在AI开发过程中，通过软硬件协同优化提升整体业务流性能。主要包括基于昇腾的视图解析硬件加速方案、模型算子加速库等，结合电信在业务流的优化处理方案，端到端提升AI应用性能。其中，CV类业务流性能提升约1.4~2倍，单纯视频解码场景性能提升2~3倍，图片解码场景性能提升1.5~2倍。
在实际应用中，通过星河AI统一推理框架，上层AI应用一处开发，云边多硬件平台部署，通过统一业务层接口，快速汇聚AI生态，推动多场景方案落地。
为应对AI长尾场景，中国电信联合华为及业界伙伴，依托星河AI统一推理框架，发挥中国电信算网资源优势，协同昇腾AI生态成果，快速孵化更多场景方案，吸引更多伙伴入驻，构筑面向未来自演进的电信AI生态。当前已有100+个生态伙伴，5000+算法，联合孵化出智慧城市、社会治理、明厨亮灶等10+场景化综合信息解决方案，支撑500多个产业数字化项目落地。
面向未来，依托星河AI统一推理框架，中国电信携手华为及业界伙伴，将持续丰富AI生态体系，不断升级星河AI能力，共同为千行百业提供融云、安全、AI等的数字化产品和服务。
