1月20日,腾讯云宣布,推出国内首款高性能异构计算基础设施——FPGA云服务器,以云服务方式将大型公司才能长期支付使用的FPGA推广到更多企业。通过FPGA云服务器,企业可以进行FPGA硬件编程,可将性能提升至通用CPU服务器的30倍以上,而只需支付相当于通用CPU约40%的费用。此举让腾讯云成为国内首家在云端开放FPGA计算服务的云服务商。
(腾讯云官网现已开放FPGA使用申请)
与已经深入人心的高性能计算的代表GPU相比,FPGA具有硬件可编程、低功耗、低延时的特性,代表了高性能计算的未来发展趋势。企业可以在火热的深度学习领域,将FPGA用于深度学习的检测阶段,与主要用于训练阶段的GPU互为补充。不仅如此,FPGA还可应用于金融分析、图像视频处理、基因组学等需要高性能计算的领域,是这类对效率要求高的行业应用的最佳选择。
例如金融行业实时处理交易数据,使用通用CPU处理延时大、成本高,而使用FPGA可以很好的解决上述问题,FPGA在搜索领域也因为低延时被互联网搜索公司深度应用。FPGA之所以比CPU甚至GPU能效高,本质上是无指令、无需共享内存的体系结构带来的福利。
腾讯云副总裁王慧星认为,FPGA从底层开始变革人工智能的设计逻辑,加速企业业务在云端的处理能力,推动全行业在人工智能领域的创新步伐。他进一步指出,FPGA已经在QQ、微信等腾讯海量业务中长期使用,具备深厚的技术积累和复杂的场景实践,希望这项的技术开放大大降低企业的使用门槛,让大中小型企业都搭上人工智能这班列车。
FPGA的应用场景:深度学习、图片处理等领域测评优势明显
FPGA诞生至今已有30余年,此前主要应用于大型互联网和科技公司,腾讯等互联网大型企业均在数据中心批量部署了FPGA,为自身的深度学习等应用提供硬件加速平台。
与传统的计算架构相比,FPGA能够更好地支撑深度学习等大规模并行计算需求。通过与通用CPU横向测试对比表明,FPGA在深度学习、图片压缩和分类检测等应用场景中,在成本、性能上具有明显优势。
FPGA在腾讯的深度学习领域被广泛应用,深度学习主要应用于图片分类识别、语音识别、个性化内容推荐算法等领域。其中,微信、QQ为了增强社交通讯等业务的违规图片检测的处理能力,降低图片检测成本,通过FPGA对深度学习模型的CNN算法进行加速后,FPGA处理性能是通用CPU的4倍,单位成本是通用CPU的1/3。
FPGA在图片处理的优势也很明显,用户每天通过微信和QQ等社交平台上传了海量的图片,如果采用WEBP图片压缩格式替代标准的JPEG格式,图片大小可减少三分之一,同时给用户带来更好的图片下载体验。而通过FPGA对大小为853×640的图片转码进行加速测试得出,FPGA的处理延时比通用CPU降低20倍,处理性能是通用CPU的6倍,而FPGA单位成本仅为通用CPU的1/3。
另一项测试表明,FPGA在DNN计算加速上有较明显的优势。国内外的搜索引擎公司普遍使用DNN算法用于广告搜索,腾讯使用FPGA对DNN计算进行加速测试得出,在使用50%的FPGA资源的情况下,将4000个样本的DNN计算时延减小为1.2毫秒,吞吐率达到6000集合/s(4000个样本为1个集合),不仅达到了系统对低延时的要求,而且极大地提高系统的吞吐能力:处理延时降低100倍,处理吞吐率提高5倍,而成本是通用CPU服务器的1/5。
FPGA的部署革命:从数月到数分钟
过去,中小企业部署FPGA面临诸多问题:FPGA硬件成本高、灵活性差、一次性采购投入大,需要高昂的费用和巨大精力进行FPGA的定制和采购,并需配备相应的硬件工程师和软件工程师。
同时企业接下来还会面临FPGA芯片更新换代带来的资源闲置流转问题。虽然FPGA知识产权(FPGA IP,FPGA Intellectual Property)提供了业务所需的硬件加速功能,但研发周期长,研发投入和风险高,令诸多企业望而却步。
腾讯云带来的革命性进展是:将FPGA部署时间从数月缩短到数分钟,企业可按需付费使用FPGA,极大降低FPGA的使用成本,实现高性能FPGA硬件加速处理。同时腾讯云率先在国内提供第三方FPGA知识产权市场,通过腾讯云服务市场,FPGA开发者和使用者可以更高效地交易。
长期以来,FPGA行业内的提供者和使用者一直缺乏交易平台和信用保证,导致交易环节冗长,很难达成交易。腾讯云服务市场搭建一个简单可靠的FPGA知识产权交易市场。对于FPGA使用者而言,可以在腾讯云服务市场购买已开发并验证好的FPGA知识产权功能,可节约长达数月的FPGA研发周期,同时采用按需使用付费的模式,能最大化地帮助使用者节省硬件投入成本。
而FPGA开发者可以通过使用腾讯云FPGA的开发框架,显著提升研发效率,更专注于核心功能开发,将图像处理功能、深度学习功能等已有的成熟FPGA知识产权通过简单封装适配,集成并投放到腾讯云服务市场,开放给FPGA使用者使用,分摊FPGA知识产权的研发成本。
王慧星认为,对于云计算行业而言,在云端提供FPGA是云计算IaaS层面革命性的推进,从底层开始加速云计算在各个场景中的应用,云计算将从纯粹的资源服务迈向人工智能云服务时代。