英特尔以生成式AI RAG解决方案,为巴黎奥运健儿提供便捷体验

发布时间:2024-07-19  

英特尔通过开放、易获取的AI系统和生态协作,以创新的方式为运动员提供支持,并助力企业客户创造更多可能。


今日,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了其以行业需求为导向所打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔®至强®处理器和英特尔® Gaudi AI加速器的开放式AI系统及平台,帮助开发者和企业应对AI高速发展所带来的需求。


英特尔执行副总裁兼数据中心与人工智能事业部总经理Justin Hotard表示:“此次与国际奥委会的合作,彰显了英特尔致力于推动AI触手可及。我们正在打造一个开放的环境以鼓励创新,帮助开发者和企业构建定制化的AI解决方案并取得切实成果。通过拥抱开放、协作的生态系统,英特尔正以创新的方式为运动员提供支持,并助力企业客户创造更多可能。”


基于Athlete365平台的聊天机器人:对于运动员而言,获得奥运会参赛资格仅仅是个开始。为了帮助全球约11,000名拥有不同语言和文化背景的运动员在奥运比赛场地出入,并遵守相关规定,国际奥委会与英特尔合作开发了基于Athlete365平台的聊天机器人AthleteGPT。这是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案。AthleteGPT不仅能够应答运动员的日常询问并进行互动,同时将在运动员入住巴黎奥运村期间,为其按需提供信息,使运动员能够专注于自身训练和比赛。


重要意义:部署生成式AI解决方案会带来诸如成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。作为一种关键的生成式AI工作负载,RAG可以让企业安全地利用专有数据,增强AI产出结果的及时性与可靠性。这将极大地提高AI应用的质量和实用性,对于推动当下的数字化发展意义非凡。


基于AI平台、开放标准以及强大的软件和系统生态,英特尔以协作的方式帮助开发者构建定制化的生成式AI RAG解决方案,从而满足企业的多样化需求。此外,英特尔亦将持续提供开放、强大且可组合的多供应商生成式AI解决方案。


生成式AI RAG解决方案工作流程:英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,用于轻松部署RAG。基于企业AI开放平台(OPEA),该方案是一种以行业需求为导向、开箱即用,且可立即投产的 RAG 解决方案。该生成式AI一站式解决方案在助力企业便捷地部署数据中心RAG的同时,具备高度的灵活性和可定制性,并集成了多个OEM系统及行业合作伙伴的产品组件。


image.png


该生成式AI一站式解决方案将基于OPEA的微服务组件集成至用于部署英特尔至强处理器和Gaudi AI系统的、可扩展的RAG解决方案中,可通过Kubernetes、Red Hat OpenShift等经验证的编排框架进行无缝扩展,并提供兼具可靠性和系统遥测功能的标准化API。


  • 以开放式软件堆栈打破壁垒:几乎所有大语言模型(LLM)的开发都基于高抽象框架PyTorch,该框架由英特尔至强和Gaudi及相关技术提供支持,助力在英特尔AI系统及平台上实现轻松开发。同时,英特尔携手OPEA开发了用于RAG和LLM部署的开放式软件堆栈。该软件堆栈通过生成式AI一站式解决方案进行优化,并基于PyTorch、Hugging Face服务库(TGI和TEI)、LangChain以及Redis向量数据库所构建。


  • 满足开发者需求:OPEA为企业提供开源、标准化、模块化,以及异构的RAG流水线(pipeline),并致力于为开放式模型及多种编译器和工具链的开发提供支持。其加速了针对垂直领域用例的容器化AI集成与交付。OPEA通过创建细化、可组合的框架,引领堆栈技术前沿,解锁AI的全新可能。


凭借生成式AI一站式解决方案与全面的企业AI堆栈,英特尔提供了完整的解决方案,以应对企业和数据中心在部署和扩展RAG与LLM应用时所面临的挑战。通过基于英特尔技术与产品的AI系统及平台,以及OPEA的优化软件,企业可以更高效、快速地发挥并利用生成式AI的巨大潜力。


现阶段,如何将最新的AI计算技术应用到企业中,并推动关键业务成果落地,是企业亟待解决的问题。通过与广大行业合作伙伴的战略合作,英特尔正为由生成式AI和RAG解决方案驱动的AI服务创造更多新的可能性。


免责声明:


英特尔技术可能需要启用硬件、软件或激活服务。

没有任何产品或组件是绝对安全的。

您的成本和结果可能会有所不同。

英特尔不控制或审计第三方数据。您可咨询其他来源以评估准确性。



文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>