百川智能推动企业实现大模型私有化部署

新浪科技讯 10月31日下午消息,百川智能宣布推出一站式大模型商业化解决方案,即1+3产品矩阵(全链路优质通用训练数据,Baichuan4-Turbo、Baichuan4-Air两款模型和全链路领域增强工具链),该方案能帮企业以最低成本实现最佳的私有化部署。

据介绍,该方案支持企业将专有数据与百川智能自用的全链路优质训练数据混合,对Baichuan4-Turbo、Baichuan4-Air两款百川自研的模型进行调优和增强——由于是自研模型优质通用训练数据与两者的数据分布高度一致,明显提升了两个模型多场景下的可用率,在金融、教育、医疗等场景下的专业细分任务平均可用率高达96%,居行业前列。

此外,在使用成本方面,为更好满足行业用户的多样化需求,百川智能对两个模型进行了差异化定位。Baichuan4-Turbo的文本生成、知识问答、多语言处理等核心能力相比Baichuan 4均有明显提升,只需2卡4090的算力即可完成部署,在GPT—4o同档位效果的模型中部署成本最低,非常适合企业探索复杂场景。而Baichuan4-Air则更适用于已经验证过的较大规模流量的场景,其效果与Baichuan 4基本持平,但推理成本行业最低,仅为Baichuan 4的1%,百万Token只需0.98元。

此外,两款模型的响应速度也均提升显著,相比Baichuan 4,Baichuan4-Turbo首Token速度提升51%、Token流速提升73%;Baichuan4-Air的首Token速度提升77%、Token流速提升93%。(文猛)