英特尔正在用边缘计算抢占生成式AI的“第二战场”

2024年,生成式AI在全球范围内很受关注,但很多人不太了解生成式AI与边缘计算的关系。Gartner预测,到2026年,全球80%的企业将使用生成式AI技术,其中,50%的边缘场景将包含AI技术。

英特尔正在用边缘计算抢占生成式AI的“第二战场”

所以,我们应该意识到,边缘计算对于生成式AI技术落地的重要性。在第十七届英特尔网络与边缘计算行业大会上,英特尔展示了其在边缘计算以及AI方面的深厚技术积累和前瞻性的战略布局,正在用边缘计算抢占生成式AI的“第二战场”。

我这里所说的“第二战场”,指的是数据中心以外的市场。英特尔在数据中心的计算、网络等方面有深厚积累,但缺少在数据中心里进行大规模重度训练的芯片。数据中心以外的边缘市场也是英特尔的优势领域,英特尔正在这一领域加速布局,抢占“第二战场”。

“第二战场”同样非常重要。事实上,据调研机构预测,到2025年,75%由企业生成的数据将在传统数据中心或云之外进行创建和处理。这些数据是多模态的,包括视频、音频等多种形式。

IDC数据显示,中国生成式AI的复合增长率高达86%,有着诱人的市场空间。英特尔市场营销集团副总裁兼中国区总经理王稚聪表示,英特尔已经与国内大模型厂商展开了合作,未来,还希望利用边缘计算技术,推动生成式AI在零售、制造、金融、医疗等行业的落地。

英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在大会上指出,我们正处于AI辅助时代,未来将迎来AI助手时代和全功能AI时代。但这一发展过程中,企业需要解决一些技术问题。

Sachin Katti表示,企业需要灵活、简便和企业就绪的技术。灵活指的是提供开放、可定制的生态系统,使企业能灵活组合硬件和软件。简便指的是,解决方案要易于使用,要能保证数据安全。企业就绪指的是能帮助企业降低AI硬件构建和运维的复杂性。

为此,英特尔推出了覆盖从凌动(Atom)到酷睿(Core)、到至强(Xeon),再到Arc GPU、IPU等硬件产品,这些硬件产品为边缘计算提供了强大的算力支持,能够满足从轻量级IoT设备到高性能边缘服务器的各种需求。

当然,想要推动边缘计算市场发展不仅需要强大的硬件,还需要完善的软件生态。为此,英特尔还推出了Tiber边缘平台和针对多个行业的AI套件,大大简化了边缘AI解决方案的部署过程。

活动现场,英特尔公司副总裁兼网络与边缘解决方案事业部总经理Dan Rodriguez介绍了AI套件的情况,包括视觉分析AI套件,生命科学AI套件,媒体和娱乐AI套件,以及用于缺陷检测、机器视觉和产品检验制造业AI套件等,更贴近垂直行业的应用场景。

国内企业更倾向于数据的本地存储,这为英特尔边缘计算的落地提供了更广阔的空间。Sachin Katti在采访中提到,英特尔关注数据处理和分析,支持将企业在本地存储的数据融入工作流程,为企业提供定制化解决方案。

英特尔网络与边缘事业部中国区总经理 陈伟博士介绍了在中国本土的生态概况。据了解,英特尔网络与边缘事业部已经与500多家OEM/ODM和150多家ISV建立合作关系,通过技术资源共享、技术支持、培训测试等方式提供支持,使超过200万开发者受益。

用边缘计算推动生成式AI在各行业的落地

英特尔积极推动边缘计算在各行各业的应用。以英特尔成都工厂为例,这里部署了一套基于AI的缺陷检测方案,用于晶圆减薄工艺。该系统使用了英特尔边缘控制平台,以极低的成本构建了AI视觉识别和智能模块,其检测精度高达95%,并且,每小时可检测200片托盘。

英特尔成都工厂的专家介绍称,该方案能够在很短的时间内检查细微的缺陷,相当于在一个足球场里找到一根头发丝的能力。这一方案替代了原本需要人工肉眼检查的做法,显著提升了质量和效率。未来,英特尔还计划将这一方案推广至美国和马来西亚工厂。

希沃是一家成立于2009年的教育科技公司,其产品覆盖17万所学校,拥有800万活跃用户,几乎每两位教师中有一位是希沃的用户。希沃的方案为教师在备课和授课工作提供了很多便利。

在生成式AI的潮流下,希沃也推出的垂类大模型,将教学大纲和逻辑输入模型中,通过用户反馈进行匹配,帮助教师理解和使用课件,提高了教师对教学内容的掌控。落地过程中,使用了英特尔酷睿Ultra XPU硬件平台,以及OpenVINO等软件能力。

深信服是一家老牌安全公司,如今也在通过安全大模型将生成式AI的能力应用到网络安全领域。为此,深信服引入RAG技术和AI Agent技术,使大模型可以实时研判和下发处置指令,提升了安全大模型的实际应用价值。

深信服的安全大模型已在全国近200家客户中上线,包括银行、电网、政府和制造业企业。深信服与英特尔在模型构建和推理优化方面深入合作,英特尔的至强推理框架显著提升了大模型的性能,以更低的成本构建推理场景。

科东元道是一家专注于工业领域操作系统的公司,通过智能机械臂实现了从自动化向智能化的转变。科东元道采用大语言模型和多模态大模型技术,使机械臂能够通过自然语言和视觉感知自动生成任务代码,提升了生产的灵活性和效率。

科东元道的智能机械臂系统将算力设备和实时控制设备整合,减少了网络传输需求和延时。该系统已在多个工业场景中成功应用,实现了更高效的柔性生产。科东元道与英特尔在模型构建和优化方面深入合作,利用英特尔的软硬件平台提升了机械臂的性能,降低了硬件成本。

开域集团的业务涵盖数字科技、数字营销和数字文创等领域。开域集团利用大模型技术,解决了传统小模型在复杂场景中的误报问题,提高了预警准确性并降低运营成本。通过大模型的视频内容分析,实现了更高效的场景识别和数据分析,覆盖从小门店到大型商场的多个场景。

开域集团与英特尔在模型优化和客户支持方面深入合作,英特尔的软硬件平台显著提升了大模型的性能和适应性。未来,开域集团希望与更多伙伴分享积累的产品、方案和经验,共同抓住大模型带来的产业革命和商业机会,为客户创造更大价值。

英特尔继续倡导开放系统的理念

独行快,众行远,英特尔在AI技术潮流下依然坚持开放的生态系统。英特尔一贯倡导开放生态系统,这一理念贯穿了其整个发展历史。

早在x86架构推广阶段,英特尔就通过开放的生态系统,鼓励广泛的硬件和软件厂商参与,推动了整个PC产业的繁荣。通过与众多合作伙伴共同开发和标准化技术,英特尔成功构建了一个高度互联、创新不断的生态环境。

这种开放的策略不仅加速了技术进步,还为用户提供了更多选择和更高的灵活性。在生成式AI和边缘计算领域,英特尔继续秉持这一传统,英特尔认为,开放生态系统能促使多方合作,共同创新,进而为全球用户带来更大价值。

Dan Rodriguez在采访中强调了开放的生态系统对人工智能发展的价值。他认为,开放的生态系统为客户提供了选择权,而且,鼓励所有人参与贡献,创造良性循环。这与最近扎克伯格在解释为什么要开源Llama 3.1时候的看法是一致的。