2024年，生成式AI在全球范围内很受关注，但很多人不太了解生成式AI与边缘计算的关系。Gartner预测，到2026年，全球80%的企业将使用生成式AI技术，其中，50%的边缘场景将包含AI技术。
英特尔正在用边缘计算抢占生成式AI的“第二战场”
所以，我们应该意识到，边缘计算对于生成式AI技术落地的重要性。在第十七届英特尔网络与边缘计算行业大会上，英特尔展示了其在边缘计算以及AI方面的深厚技术积累和前瞻性的战略布局，正在用边缘计算抢占生成式AI的“第二战场”。
我这里所说的“第二战场”，指的是数据中心以外的市场。英特尔在数据中心的计算、网络等方面有深厚积累，但缺少在数据中心里进行大规模重度训练的芯片。数据中心以外的边缘市场也是英特尔的优势领域，英特尔正在这一领域加速布局，抢占“第二战场”。
“第二战场”同样非常重要。事实上，据调研机构预测，到2025年，75%由企业生成的数据将在传统数据中心或云之外进行创建和处理。这些数据是多模态的，包括视频、音频等多种形式。
IDC数据显示，中国生成式AI的复合增长率高达86%，有着诱人的市场空间。英特尔市场营销集团副总裁兼中国区总经理王稚聪表示，英特尔已经与国内大模型厂商展开了合作，未来，还希望利用边缘计算技术，推动生成式AI在零售、制造、金融、医疗等行业的落地。
英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在大会上指出，我们正处于AI辅助时代，未来将迎来AI助手时代和全功能AI时代。但这一发展过程中，企业需要解决一些技术问题。
Sachin Katti表示，企业需要灵活、简便和企业就绪的技术。灵活指的是提供开放、可定制的生态系统，使企业能灵活组合硬件和软件。简便指的是，解决方案要易于使用，要能保证数据安全。企业就绪指的是能帮助企业降低AI硬件构建和运维的复杂性。
为此，英特尔推出了覆盖从凌动（Atom）到酷睿（Core）、到至强（Xeon），再到Arc GPU、IPU等硬件产品，这些硬件产品为边缘计算提供了强大的算力支持，能够满足从轻量级IoT设备到高性能边缘服务器的各种需求。
当然，想要推动边缘计算市场发展不仅需要强大的硬件，还需要完善的软件生态。为此，英特尔还推出了Tiber边缘平台和针对多个行业的AI套件，大大简化了边缘AI解决方案的部署过程。
活动现场，英特尔公司副总裁兼网络与边缘解决方案事业部总经理Dan Rodriguez介绍了AI套件的情况，包括视觉分析AI套件，生命科学AI套件，媒体和娱乐AI套件，以及用于缺陷检测、机器视觉和产品检验制造业AI套件等，更贴近垂直行业的应用场景。
国内企业更倾向于数据的本地存储，这为英特尔边缘计算的落地提供了更广阔的空间。Sachin Katti在采访中提到，英特尔关注数据处理和分析，支持将企业在本地存储的数据融入工作流程，为企业提供定制化解决方案。
英特尔网络与边缘事业部中国区总经理 陈伟博士介绍了在中国本土的生态概况。据了解，英特尔网络与边缘事业部已经与500多家OEM/ODM和150多家ISV建立合作关系，通过技术资源共享、技术支持、培训测试等方式提供支持，使超过200万开发者受益。
用边缘计算推动生成式AI在各行业的落地
英特尔积极推动边缘计算在各行各业的应用。以英特尔成都工厂为例，这里部署了一套基于AI的缺陷检测方案，用于晶圆减薄工艺。该系统使用了英特尔边缘控制平台，以极低的成本构建了AI视觉识别和智能模块，其检测精度高达95%，并且，每小时可检测200片托盘。
英特尔成都工厂的专家介绍称，该方案能够在很短的时间内检查细微的缺陷，相当于在一个足球场里找到一根头发丝的能力。这一方案替代了原本需要人工肉眼检查的做法，显著提升了质量和效率。未来，英特尔还计划将这一方案推广至美国和马来西亚工厂。
希沃是一家成立于2009年的教育科技公司，其产品覆盖17万所学校，拥有800万活跃用户，几乎每两位教师中有一位是希沃的用户。希沃的方案为教师在备课和授课工作提供了很多便利。
在生成式AI的潮流下，希沃也推出的垂类大模型，将教学大纲和逻辑输入模型中，通过用户反馈进行匹配，帮助教师理解和使用课件，提高了教师对教学内容的掌控。落地过程中，使用了英特尔酷睿Ultra XPU硬件平台，以及OpenVINO等软件能力。
深信服是一家老牌安全公司，如今也在通过安全大模型将生成式AI的能力应用到网络安全领域。为此，深信服引入RAG技术和AI Agent技术，使大模型可以实时研判和下发处置指令，提升了安全大模型的实际应用价值。
深信服的安全大模型已在全国近200家客户中上线，包括银行、电网、政府和制造业企业。深信服与英特尔在模型构建和推理优化方面深入合作，英特尔的至强推理框架显著提升了大模型的性能，以更低的成本构建推理场景。
科东元道是一家专注于工业领域操作系统的公司，通过智能机械臂实现了从自动化向智能化的转变。科东元道采用大语言模型和多模态大模型技术，使机械臂能够通过自然语言和视觉感知自动生成任务代码，提升了生产的灵活性和效率。
科东元道的智能机械臂系统将算力设备和实时控制设备整合，减少了网络传输需求和延时。该系统已在多个工业场景中成功应用，实现了更高效的柔性生产。科东元道与英特尔在模型构建和优化方面深入合作，利用英特尔的软硬件平台提升了机械臂的性能，降低了硬件成本。
开域集团的业务涵盖数字科技、数字营销和数字文创等领域。开域集团利用大模型技术，解决了传统小模型在复杂场景中的误报问题，提高了预警准确性并降低运营成本。通过大模型的视频内容分析，实现了更高效的场景识别和数据分析，覆盖从小门店到大型商场的多个场景。
开域集团与英特尔在模型优化和客户支持方面深入合作，英特尔的软硬件平台显著提升了大模型的性能和适应性。未来，开域集团希望与更多伙伴分享积累的产品、方案和经验，共同抓住大模型带来的产业革命和商业机会，为客户创造更大价值。
英特尔继续倡导开放系统的理念
独行快，众行远，英特尔在AI技术潮流下依然坚持开放的生态系统。英特尔一贯倡导开放生态系统，这一理念贯穿了其整个发展历史。
早在x86架构推广阶段，英特尔就通过开放的生态系统，鼓励广泛的硬件和软件厂商参与，推动了整个PC产业的繁荣。通过与众多合作伙伴共同开发和标准化技术，英特尔成功构建了一个高度互联、创新不断的生态环境。
这种开放的策略不仅加速了技术进步，还为用户提供了更多选择和更高的灵活性。在生成式AI和边缘计算领域，英特尔继续秉持这一传统，英特尔认为，开放生态系统能促使多方合作，共同创新，进而为全球用户带来更大价值。
Dan Rodriguez在采访中强调了开放的生态系统对人工智能发展的价值。他认为，开放的生态系统为客户提供了选择权，而且，鼓励所有人参与贡献，创造良性循环。这与最近扎克伯格在解释为什么要开源Llama 3.1时候的看法是一致的。
