编者按：随着各大公司对于数据计算的要求越来越高，实时AI成为了研究者们关注的重点。在美国西雅图举行的微软Build开发者大会上，微软发布了最新的基于FPGA的Project Brainwave预览版。Project Brainwave是一个旨在加速实时AI计算的硬件架构，能够部署在Azure云端以及边缘设备上，帮助用户实现低成本的实时AI计算。本文译自微软人工智能博客“Real-time AI: Microsoft announces preview of Project Brainwave”
本周，在美国西雅图举行的微软Build开发者大会上，微软发布了Project Brainwave预览版，并将其整合到了Azure机器学习服务中。Project Brainwave是一个旨在加速实时AI计算的硬件架构，部署在名为“现场可编程门阵列（Field Programmable Gate Array，简称FPGA）”的英特尔计算机芯片上。与最流行的行业基准相比，Project Brainwave可以将实时AI计算的延迟时间降到最小，并且成本控制在可接受的范围。
Project Brainwave预览版的发布将使Azure成为最高效的AI云计算平台，也是让FPGA成为通用型平台的第一步。
Project Brainwave硬件模型
Esri是一家地理信息分析公司，每天需要处理各种来自卫星图像、视频数据流和传感器信号等异构数据。数据的处理需要高强度的密集计算，常常会导致计算延迟。
同时，Esri公司对海量数据实时处理能力的要求也越来越高。例如，公司希望从数千条视频中提取信息，对汽车、自行车、公交车、行人和其它物体进行侦测，以便了解当前的交通状况和异常情况；或者公司希望通过对卫星数据进行实时分析，来侦测受损住宅等各种不同物体。
因此，Esri公司需要借助微软Project Brainwave进行更加高效和低成本的实时AI分析。
Project Brainwave预览版能为客户提供超高速图像识别能力，它还可以让用户进行基于AI的实时计算，而不用将任务进行分拆再进行单独计算。目前，Project Brainwave支持深度学习框架TensorFlow，也将支持微软认知工具包。
除了整合到Azure平台，微软还将Project Brainwave推广应用到“边缘设备”上，这样用户仍然可以在不联网的情况下利用Project Brainwave获得业界领先的计算速度。不用联网的Brainwave可以被直接嵌入到生产设备中，这样计算不需要每次都在云端运行，哪怕每次只能节省很少的时间和金钱成本，也会形成累积效应，产生巨大的效益。
在必应和Azure上部署FPGA
早在Project Brainwave处于探索阶段时，FPGA就已经不算是什么新鲜事物了，但在此之前从未有人认真考虑过将它用于大规模计算。所以微软的研究团队开始着手验证FPGA用于更贴近实际场景的可行性。
最开始，Project Brainwave团队将这一技术在必应搜索引擎和Azure云中进行落地。
微软高级研究员、Brainwave项目技术负责人Eric Chung表示，必应必须是一项“低延迟”的服务——当用户在必应搜索框中输入搜索查询时，他们希望能够瞬间获得搜索结果。这意味着必应工程师要在不牺牲毫秒级响应速度的前提下不断设法提高搜索结果的质量。而与此同时，搜索引擎数据库中的数据，无论在数量和类型上都是在不断增加的。借助可编程硬件FPGA，团队得以将基于深层神经网络的搜索技术迅速融入到必应中，极大提升了系统返回搜索结果的速度。
过去几年间，微软也一直在使用FPGA来加速Azure云计算平台。
AI要实时处理海量数据
从借助FPGA实现更高效的计算处理的想法诞生，到Project Brainwave公开预览版的发布，时隔五年的时间。这段时间里，AI革命的全面爆发引发了新的巨大需求：人们希望系统能够处理文档扫描、图像信息搜寻、语音识别和对话翻译等AI任务所需的海量数据。
Project Brainwave团队负责人Doug Burger
而Project Brainwave刚好能够满足AI计算的需求。其硬件设计可以迅速演进，并在每次改进后能够重新映射到FPGA，满足快速变化中的AI算法要求。
与其它类型的计算机芯片相比，FPGA更加灵活，可以根据AI领域的最新发展快速地进行重新编程。
随着AI处理的任务越来越复杂（例如分析视频内容等非结构化数据）以及AI算法的复杂度越来越高（例如用于执行诸如“在这些视频中搜索所有关于海滨城市的镜头”等搜索指令），人们对于能够以合理成本快速处理AI任务的系统的需求只会越来越大。
提高流水线检测效率
捷普集团 (Jabil）是全球领先的电子技术解决方案提供商。每天，工人都会在流水线上将成千上万个零部件装配成产品，然后交付给客户。在这个过程中，自动光学检测系统会对这些产品进行扫描，查找出所有潜在的异常情况，随后，系统会将异常的产品送去进行手工检查。高速运转的系统要求手工检查员在几秒钟内就要判定出某件产品是否确实存在缺陷。
为了让AI能够更加快速、准确地监测图像，减少系统错误的异常警报，捷普集团与微软合作，利用微软Project Brainwave来提高AI的计算速度。此外，研究人员还在探索如何利用Project Brainwave更好地预测制造设备需要维护的时间，从而减少停产维修的时间。
从图像分析、搜索引擎到智能制造，人们对实时AI计算的需求正变得越来越多，我们希望微软Project Brainwave能够推动实时AI计算的发展，让AI带给我们更多的可能性。
