智能交通、智慧医疗、智慧金融……人工智能技术迅猛发展,各类应用场景层出不穷。然而,企业如何能更快地用上人工智能?孵化自中科院计算所的智能计算领域“新贵”中科睿芯的答案很简单:高通量AI一体机。
美国当地时间11月8日,中科睿芯研制的新一代产品——高通量人工智能一体机在高通Centriq 2400 产品发布会上正式亮相。“这是一款软硬件一体、开机即用的人工智能一体机,可省去用户搭建服务器环境、搭建人工智能平台等诸多复杂步骤,让用户快速使用上人工智能技术。”中科院计算所研究员、中科睿芯董事长范东睿介绍说,该一体机也是全球首款基于ARM架构的高通量AI一体机。
中科睿芯高通量人工智能一体机在高通Centriq 2400 产品发布会上正式亮相
将接入AI像使用手机一样简单
“在AI技术大爆发的今天,90%以上的企业都倾向于或已采用AI技术丰富自己的产品和服务手段。然而,尽管已有大量的AI算法被开发、被各式各样的应用场景开始试用,但目前用于支撑AI计算的基础架构仍十分匮乏。”范东睿指出,在国内,支撑AI计算的基础架构几乎全部依靠进口昂贵的GPU来支撑。
北京中科睿芯科技有限公司(简称“中科睿芯”)成立于2014年11月,其前身为中科院计算所早于2005年成立的“睿芯技术团队”,专门从事处理器架构方面的研究与开发。通过多年的技术研发与市场应用积累,中科睿芯目前已成为高通量媒体大数据处理应用领域国内外知名的硬件解决方案综合服务商。范东睿介绍说,此次面向全球首发“高通量AI一体机”,目的就是“让采用AI技术的企业可以直接在这个平台上构建应用,专注于场景和模型的设计,不再受限于底层基础平台的构建”。
“睿芯希望通过提供成熟的AI整体解决方案,让企业用户可以像使用手机一样简单地接入AI。”范东睿说,中科睿芯高通量AI一体机此次采用了符合AI计算特点的最新高通ARM芯片、预装了睿芯的基础开发套件SmartAI,并设计了符合AI计算特点的一体机服务器,目标只有一个:提供用户集成人工智能应用与平台软硬件一体的“AI即战力”。
中科院计算所研究员、中科睿芯董事长范东睿与高通执行董事长Paul Jacobs观看展示
填补“ARM架构AI一体机”的空白
中科睿芯此次发布的“高通量AI一体机”采用了高通公司当天最新发布的ARM架构芯片“Centriq 2400”。事实上,采用ARM架构也是睿芯AI一体机的一大特色。
一直以来,x86架构都是服务器领域的霸主,市场上也先后出现过基于x86架构的大数据或人工智能一体机。然而,基于ARM架构服务器的大数据/AI一体机一直是个空白。
“事实上,ARM架构天然的结构简单、低功耗等优势与现在有着高并发需求的人工智能应用场景更相契合。而且,ARM平台统治着智能时代的终端设备,在未来,端与云会有更深层次的融通,如果端与云都能统一在ARM架构上,一定能有效提升全系统效率。”范东睿解释说,这也是中科睿芯与高通深度合作,研发世界首款基于ARM架构的高通量AI一体机的初衷。
范东睿介绍说,在高通的ARM服务器芯片还处于早期研发阶段时,中科睿芯就与高通的技术团队就建立了非常紧密的合作关系。“双方一直围绕高通量技术开展协同攻关,而现在到了瓜熟蒂落的时候。”
“高通量计算”让AI化身“千手观音”
中科睿芯“高通量AI一体机”最突出的一个特点,就是将AI应用在高效的“高通量计算”模式上实现。与“高性能计算”不同,“高通量计算”在数据处理效率上,另有一套“高招”。
“高通量计算引入了数据流的思想,讲究的是‘流过即计算’。”范东睿解释道,在大数据时代,数据处理效率是系统最关键的指标。高通量计算能够做到“数据在计算设备中流动的过程中就被全部处理完”,这有效避免了反复访存在效率与能耗上的损失。“随着互联网应用深层次演进和变革,以及万物互联时代的到来,高通量计算将普及覆盖到生活中的方方面面。”范东睿对高通量计算的前景很是乐观。
值得一提的是,“高通量AI一体机”将数据流思想与人工智能应用进行有机结合的同时,中科睿芯的技术团队还对其进行了从硬件到软件栈的全融合优化,使其可提供从AI计算平台、管理调度与分析平台到深度学习框架的端到端解决方案。“目前该一体机已经可在语音识别、图像识别、无人驾驶等AI领域实现规模化应用。”范东睿表示。
高通量计算无疑给AI应用打开了一道高效、低耗之门,这更是AI计算的一次变革。“当前的AI应用多采用监督学习的方式,还只能倾向于让机器去解决一个或几个问题,而未来我们更希望AI化身‘千手观音’,可以同时解决成千上万的问题,并且可以自主的去学习。”范东睿说,以前受限于计算能力不足和数据量少,现在运用高通量计算平台,AI变身“千手观音”正变得触手可及。
“中科睿芯始终坚持输出高通量解决方案。下一步,我们将以构建高通量产业链条为目标,以高通量解决方案带动高通量系统与应用。此外,睿芯目前正在研发具有自主知识产权的高通量AI核心处理芯片,通过突破最核心的技术来加速AI产业链的构筑。”范东睿说。