当AI遇到奥运会,英特尔帮助巴黎奥运会构建聊天机器人

巴黎2024年夏季奥运会将于7月26日正式开始,全球约11000名拥有不同语言和文化背景的运动员将在将在法国首都齐聚一堂。这场为期17天的体育盛会不仅将展示人类的极限与潜能,还将成为促进国际交流与和平的重要平台。

为了帮助运动员更好地交流,正确遵守相关规定,国际奥委会与英特尔合作开发了基于Athlete365平台的聊天机器人AthleteGPT。这是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案。

AthleteGPT会使用英语、法语、西班牙语、普通话、俄语和阿拉伯语,这几乎涵盖了所有常用的第一或第二语言。于是,AthleteGPT可以回答运动员的日常询问,按需提供各种必要信息,使运动员能够有更多时间专注于自身训练和比赛。

在此前的一个在线演示中,用户问能否发布有关奥运场馆的照片时,该聊天机器人回复说,可以在个人网站和社交媒体上发布照片,只要不发布商业内容、AI生成的内容或受限区域的录音即可。回复的最后,还带了一个文档链接。

在国际奥委会运动员部主任Kaveh Mehrabi看来,AthleteGPT为运动员提供了便捷的信息访问。数字化的发展导致信息爆炸,处理这些信息需要花费更多时间和精力,让人变得不堪重负,而AthleteGPT帮助运动员处理这类问题。

英特尔数据中心与人工智能事业部软件解决方案和生态部门副总裁Bill Pearson表示,企业有大量数据,这些数据通常是专有的或历史数据,LLM无法访问直接那些企业数据。而RAG技术可以将LLM与专有数据结合,企业不仅能获得LLM的强大能力,还获得了更高的准确性和数据的安全性。

生成式AI技术的爆火改变了人们与信息的交互方式,配合RAG技术利用专有数据,信息检索效率达到了大幅度的提升。然而,部署生成式AI技术方案在成本、规模、准确性、开发需求、隐私和可靠性等方面都面临不可忽视的挑战。

英特尔帮助开发者构建生成式AI RAG解决方案。在包括英特尔至强处理器和Gaudi加速器等硬件方案的基础之上,英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,可以加速RAG技术的部署。

2024年,企业AI开放平台(OPEA)项目推出,它汇聚了包括英特尔、Cloudera、Hugging Face、Intel、Minio、Red Hat、SAS、等行业领袖,它是要结合各自优势,构建一站式的生成式AI解决方案,从而加速推动AI落地。

企业AI开放平台(OPEA)包含一系列OPEA的微服务组件,这些组件集成至英特尔至强处理器和Gaudi AI系统当中,还可通过Kubernetes、Red Hat OpenShift等容器框架进行扩展,并提供兼具可靠性和系统遥测功能的标准化API。

几乎所有大语言模型都基于PyTorch来开发的,而英特尔至强和英特尔Gaudi加速器对PyTorch有非常好的支持,这为开发者在英特尔AI系统或平台上开发AI软件提供了很大便利。

同时,英特尔携手OPEA开发了用于RAG和LLM部署的开放式软件堆栈。该软件堆栈通过生成式AI一站式解决方案进行优化,并基于PyTorch、Hugging Face服务库(TGI和TEI)、LangChain以及Redis向量数据库所构建。

OPEA为企业提供开源、标准化、模块化,以及异构的RAG流水线,并为开放式模型及多种编译器和工具链的开发提供支持。OPEA加速了针对垂直领域用例的容器化AI集成与交付,通过创建细化、可组合的框架,引领堆栈技术前沿,解锁AI的全新可能。

除了一起构建聊天机器人AthleteGPT以外,英特尔还为巴黎奥运会提供了一系列边缘AI应用。

在巴黎奥运会筹备与比赛期间,由英特尔技术支持的AI解决方案在挖掘人才,助益广大运动员、教练以及观众方面提供了很大帮助。

英特尔携手三星打造基于AI技术的沉浸式互动体验,让观众体验成为奥运选手的奇妙旅程。得益于英特尔Gaudi AI加速器、英特尔至强处理器以及OpenVINO的支持,该AI技术能够带领观众体验一系列专业的训练与分析,并为其匹配比赛项目。

此外,英特尔还打造AI解决方案帮助视障人士提高赛事观赏体验,通过重建3D模型,帮助视障人士通过具备摄像功能的智能手机实现室内语音导航。该方案使用了内置AI加速功能的至强处理器。

英特尔在奥运媒体传播上也提供帮助。不仅用英特尔至强处理器来捕捉影像,传输视频。同时,通过英特尔OpenVINO工具套件的优化来加快内容产出,让全球各地的粉丝看到自己喜爱运动员的3D沉浸式实时访谈,拉近与奥运会的距离。