和Nvidia今天宣布扩展了合作伙伴关系,旨在提供加速计算,以便客户能够大规模采用大型语言模型(LLM)和生成式人工智能。
本文引用地址:根据这一合作伙伴关系,正在将Nvidia的生成式人工智能铸造服务,包括新发布的Nvidia NIM推断微服务,整合到 Datasphere、SAP业务技术平台(BTP)、RISE with SAP以及SAP的企业应用程序组合中。
“我们正在将人工智能嵌入到我们的企业应用程序中,并且我们已经设计成,云中的客户可以轻松地以即服务、开箱即用的方式消费它,” SAP首席人工智能官(CAIO)菲利普·赫尔齐格(Philipp Herzig)表示。
赫尔齐格指出,SAP拥有庞大的合作伙伴生态系统和各种LLM提供商,新的LLM似乎每天都在不断涌现。
“我们希望以一种方式设计它,使客户不必关心复杂性,”他说。“归根结底,客户希望在其工作流程中消费LLM时获得最佳体验、最佳性能或最低价格。”
SAP正在使用Nvidia的服务,包括Nvidia DGX Cloud AI超级计算、Nvidia AI Enterprise软件和Nvidia AI Foundation模型,为SAP AI Core和SAP Datasphere中的生成式人工智能中心增加新功能。
将RAG引入到Joule 去年11月推出的Nvidia NeMo Retriever,一个语义检索微服务,可通过检索增强生成(RAG)来帮助gen AI应用程序提供更准确的响应,将增强SAP的Joule协作助手。
RAG通过赋予LLM引用其训练数据之外的权威知识库的能力来优化LLM。
“有大量文档未存储在SAP系统中,”赫尔齐格说。“这些可能是您的人力资源政策、旅行政策、合规文件、法律文件,可能存储在SharePoint或门户上。”
Joule已经具备回答简单问题的能力,比如“我剩余多少个假期天数?”这只是员工记录的问题。但Nvidia的微服务赋予Joule更进一步的能力,让它可以访问人力资源政策,并将其与员工记录进行比较。
数据科学家和开发人员的新功能 该合作伙伴关系还在探索20多个面向帮助客户简化数字化转型的生成式人工智能用例,包括通过智能发票匹配自动化SAP S/4HANA Cloud中的ERP、通过SAP SuccessFactors改进HR用例,以及使用来自SAP Signavio的生成式人工智能洞察来处理业务建议并优化客户支持流程。
与此同时,SAP正在利用NVIDIA的加速计算平台和NVIDIA AI Enterprise数据科学软件,包括Nvidia Rapids、Rapids cuDF和cuML,以使数据科学家更容易访问数据,并提高Datasphere中ML工作负载的性能。对于开发人员,Nvidia的AI铸造服务将帮助他们创建特定领域的语言代码,并对LLM进行微调,以在SAP的高级业务应用编程(ABAP)编程语言中编写代码。
“我们的编程语言叫做ABAP,许多遗留代码都是用它编写的,结果通常是大型语言模型在处理ABAP时并不好用,”赫尔齐格说。
他解释说,虽然现成的LLM可以生成20世纪90年代可接受的ABAP代码,但它与ABAP Cloud的现代设计原则不符合。
“RAG不太适用于代码生成,”Nvidia的生成式人工智能软件产品管理副总裁卡里·安·布里斯基(Kari Ann Briski)补充说。“您不能检索代码,然后将其复制并编写。生成代码必须真正来自于了解该语言并能够创建它的能力,以提供自然提示。”
最后,今天还宣布的新Nvidia NIM推断微服务将帮助客户优化其SAP基础架构上的推断性能。
“基本上,这是由Nvidia预先构建的各种模型的微服务:来自生态系统的开放模型、专有模型、一些Nvidia模型,从小型创业公司到大型云端的模型,”Nvidia的企业计算副总裁Manuvir Das说。“我们将模型与为这些模型进行了优化的引擎一起打包,以便尽可能高效地在一系列Nvidia GPU上运行,这些GPU可以在笔记本电脑或工作站、数据中心或云中找到。”