亚马逊(纳斯达克股票代码:AMZN)旗下公司 Amazon Web Services 近日在纽约峰会上宣布推出七项生成式 AI 新功能,包括 Amazon Bedrock 新增基础模型供货商 Cohere 和全新基础模型,以及全新代理(Agents)功能;Amazon EC2 P5 实例正式可用,加速生成式 AI 和高性能计算应用;Amazon OpenSearch Serverless 支持全新向量引擎;编程助手 Amazon CodeWhisperer 与 Amazon Glue 实现集成;Amazon QuickSight 新增生成式 BI 功能;帮助企业提升数据质量的分析服务 AWS Entity Resolution 正式可用;协助提升医疗行业生产效率的智慧医疗新服务 AWS HealthScribe 等。
AWS 于 7 月 26 日在纽约召开峰会
AWS 是次发布的多项生成式 AI 新功能,进一步降低了生成式 AI 的使用门坎,让无论是企业用户还是开发人员都能从中受益。借助这些新功能,来自各行各业的企业都能更专注于核心业务,提高生产效率,充分释放数据价值和生成式 AI 的潜力。
Amazon Bedrock 全面扩展 协助客户灵活应用基础模型;新增全新基础模型、基础模型供货商以及代理(Agents)功能
AWS 宣布全面扩展其全托管基础模型服务 Amazon Bedrock,包括新增 Cohere 作为基础模型供货商,加入 Anthropic 和 Stability AI 的最新基础模型,并发布变革性的新功能 Amazon Bedrock 代理 (Agents) 。
Cohere 致力于开发领先的企业 AI 平台和前沿基础模型,其基础模型可以更直观地生成、检索和汇总信息。 Anthropic 为一间关注 AI 安全的研究型公司,专注于构建可信、可解释和可掌控的 AI 系统。Anthropic 已经将其最新的语言模型 Claude 2 接入到 Amazon Bedrock。Stability AI 为一间小区驱动的开放式 AI 公司,提供可通过简单文本指令创建文本、图像、音频、影片、代码等的基础模型。Stability AI 将在 Amazon Bedrock 上发布其最新版本文生图模型套件 Stable Diffusion XL 1.0 (SDXL 1.0)。
Amazon Bedrock 代理功能将协助开发人员轻松创建全托管的人工智能代理(AI Agents),并协助企业加速开发生成式 AI 应用程序,这些应用程序可以通过对公司系统进行 API 调用来管理和执行任务。Amazon Bedrock 代理功能同时还可以扩展基础模型以理解用户请求,将复杂任务分拆为多个步骤、开展对话以收集更多信息,并采取行动以满足用户请求。借助 Amazon Bedrock 代理功能,用户可以为内部或外部客户自动执行任务,如管理零售订单或处理保险索赔。凭借代理功能,电商的生成式 AI 应用程序不仅能回答简单问题(「如有蓝色夹克吗?」),还能协助用户完成复杂任务(如更新订单或管理交易)。
AWS 数据库、数据分析和机器学习全球副总裁 Swami Sivasubramanian 在 AWS 纽约峰会上发表主旨演讲
Amazon EC2 P5 实例正式可用 加速生成式 AI 和高性能计算应用
AWS 宣布 Amazon Elastic Compute Cloud(Amazon EC2) P5 实例正式可用。这是一款下一代 GPU 实例,可以满足客户在运行人工智能、机器学习和高性能计算工作负载时对高性能和高扩展性的需求。该实例由最新的英伟达 H100 Tensor Core GPU 提供支持,与上一代基于 GPU 的实例相比,训练时间最多可缩短 6 倍(从数天缩短至数小时)。这一性能提升将协助客户降低高达 40% 的培训成本。
Amazon EC2 P5 实例提供 8 个英伟达 H100 Tensor Core GPU,具有 640 GB 高带宽 GPU 内存,同时提供第三代 AMD EPYC 处理器、2TB 系统内存和 30 TB 本地 NVMe 存储。Amazon EC2 P5 实例还提供 3200 Gbps 的聚合网络带宽并支持 GPUDirect RDMA,从而能够绕过 CPU 进行节点间通信,实现更低的延迟和高效的横向扩展性能。
适用于 Amazon OpenSearch Serverless 的向量引擎 协助客户轻松构建现代生成式 AI 应用
AWS 宣布推出适用于 Amazon OpenSearch Serverless 的向量引擎。在正式可用后,该向量引擎将支持简单的 API 调用,可用于储存和查询数十亿个嵌入(embeddings)。而未来所有 AWS 的数据库都将具有向量功能,协助客户简化营运,方便整合数据。
嵌入应储存在靠近来源数据的位置,一系列因素都将影响企业如何选择最适合自己的选项,这些因素包括当前数据储存位置、对数据库技术的熟悉程度、向量维度的扩展、嵌入的数量和性能需求等。因此,AWS 还提供以下选项满足更高级的向量数据储存需求:
• Amazon Aurora PostgreSQL 兼容版关系型数据库,支持 pgvector 开源向量相似性搜索插件。
• 分布式搜索和分析服务 Amazon OpenSearch,带有 k-NN(k 最近邻)插件和适用于 Amazon OpenSearch Serverless 的向量引擎。
• 兼容 PostgreSQL 的 Amazon RDS(Amazon Relational Database Service)关系型数据库,支持 pgvector 插件。
Amazon CodeWhisperer 与 Amazon Glue 实现整合 进一步提升开发效率
AWS 宣布 Amazon CodeWhisperer 正式可用。这是一款 AI 编程助手,能透过使用底层基础模型协助开发人员提高工作效率。它可以根据开发人员使用自然语言留下的注释和 IDE(集成开发环境)中的历史代码实时生成代码建议。此外,AWS 还发布了 Amazon CodeWhisperer Jupyter 扩展程序,为 Jupyter 用户在 Jupyter Lab 和 Amazon SageMaker Studio 中的 Python notebooks 生成实时、单行或完整的函数代码建议。
现在,AWS 正式宣布 Amazon Glue Studio notebooks 支持 Amazon CodeWhisperer,协助 Amazon Glue 用户优化使用体验、提高开发效率。通过 Amazon Glue Studio notebooks,开发人员可以用自然语言(英语)编写特定任务,例如「利用 json 档中的内容创建一个 Spark DataFrame」。基于此信息,Amazon CodeWhisperer 会直接在 notebooks 中推荐一个或多个可完成此任务的代码片段。开发人员可以选择「接受最推荐的建议」,「查看更多建议」或「继续自己编写代码」。
Amazon QuickSight 新增生成式 BI 功能 升级自然语言人机交流
AWS 宣布正将 Amazon Bedrock 提供的大语言模型能力与支持自然语言问答的 Amazon QuickSight Q整合,以期在 Amazon QuickSight 中提供生成式 BI 功能。该功能很快将在 Amazon QuickSight 可用,协助企业轻松探索数据、发现并分享洞察。
借助 Amazon QuickSight 中新增的生成式 BI 功能,业务分析师能够使用自然语言轻松执行日常任务,包括:
• 基于 Amazon QuickSight Q 全新的视觉创作体验功能,在数秒钟内创建数据可视化图表;
• 使用自然语言微调和格式化图表效果;
• 无须学习特定语法,通过自然语言即可创建计算任务。
针对使用仪表板并需要与之进行交流的企业用户,AWS 发布 Stories 功能,协助企业用户使用生成式 BI 的强大能力,通过自然语言提示来生成、定制和共享极具信息量的可视化图表。
Amazon Entity Resolution 正式可用 协助企业提升数据质量、获取客户洞察
AWS 宣布 Amazon Entity Resolution 正式可用。这是一项由机器学习提供支持的分析服务,可以协助企业轻松分析、匹配和关联相关记录,这些记录可能储存在应用程序、不同的数据获取管道和数据储存中。Amazon Entity Resolution 利用基于规则和机器学习的技术自定义工作流程,并以此汇总消费者、业务和产品信息。业务分析师和开发人员可以通过内置的预配置工作流程快速提高数据准确性,或者通过自定义工作流程来满足企业需求。借助 Amazon Entity Resolution,企业可以更好地了解数据的关联、匹配和链接情况,同时深入发掘客户洞察、清晰捕捉供应链数据,从而改善营运能力、开展更多有效营销、作出复杂金融投资决策。AWS 宣布计划增加两个 Amazon Entity Resolution 的合作伙伴 LiveRamp 和 TransUnion,同时增强与 Unified ID 2.0 开源框架的互操作性。通过这些集成功能,客户将能更轻松地翻译或丰富自己的记录,同时更好地保护数据并减少数据移动。
Amazon HealthScribe 利用生成式 AI 协助构建医疗应用程序
AWS 宣布推出 Amazon HealthScribe,这是一项符合 HIPAA(《健康保险责任与保护法》)要求的新服务,能够帮助医疗软件供货商构建临床应用程序。这些应用程序使用文本识别和生成式 AI 技术生成临床文档,节省医生时间。借助 Amazon HealthScribe,医疗软件供货商可以通过调用一个 API 自动创建可靠的记录、提取关键信息(例如医学术语和药物),并根据医患对话创建摘要,然后将这些数据输入到电子健康记录(EHR)系统。 Amazon HealthScribe 由 Amazon Bedrock 提供支持,使医疗软件供货商能够更快、更轻松地将生成式 AI 功能整合至其应用程序中。在普通医学和骨科这两个常见专科,医疗软件供货商已经开始使用 Amazon HealthScribe,它们不再需要管理底层机器学习基础设施或训练自己的医疗专属大语言模型 (LLM)。
关于Amazon Web Services
自2006年来,Amazon Web Services一直在提供世界上服务最丰富、应用广泛的云端服务。AWS为客户提供超过200种功能全面的云端服务,包括运算、储存、数据库、网络、分析、机器学习与人工智能、物联网、流动、安全、混合云、虚拟和扩增实境(VR 和AR)、媒体,以及应用开发、部署和管理等方面,遍及31个地理区域内的99个可用区域(Availability Zones),并已公布计划在加拿大、以色列、马来西亚、纽西兰和泰国建立5个AWS地理区域、15个可用区域。AWS的服务获得全球超过百万客户的信任,包括发展迅速的初创公司、大型企业和政府机构。通过AWS的服务,客户能够有效强化自身基础设施,提高营运上的弹性与应变能力,同时降低成本。