NVIDIA推出DGX Cloud,使每个企业通过浏览器就能即时接入AI超级计算机
Oracle Cloud Infrastructure率先运行NVIDIA AI超级计算实例;微软Azure、谷歌云等即将托管DGX Cloud
加利福尼亚州圣克拉拉市 – GTC – 太平洋时间2023年3月21日 – NVIDIA今日发布NVIDIA DGX Cloud™。这项AI超级计算服务使企业能够即时接入用于训练生成式AI等开创性应用的高级模型所需的基础设施和软件。
DGX Cloud可提供NVIDIA DGX™ AI超级计算专用集群,并配以NVIDIA AI软件。这项服务使得每个企业都可以通过一个简单的网络浏览器就能访问自己的AI超级计算机,免除了购置、部署和管理本地基础设施的复杂性。
企业可按月租用DGX Cloud集群,以便能够快速、轻松地扩展大型多节点训练工作负载的开发,无须等待需求量通常很大的加速计算资源。
NVIDIA创始人兼首席执行官黄仁勋表示:“我们正处于AI的‘iPhone’时刻。初创企业正在竞相打造颠覆性的产品和商业模式,老牌企业则在寻求应对之法。DGX Cloud 使客户能够在全球规模的云上即时接入NVIDIA AI超级计算。”
NVIDIA正在与领先的云服务商联合托管DGX Cloud基础设施,Oracle Cloud Infrastructure(OCI)将首当其冲,通过其OCI超级集群,提供专门构建的RDMA网络、裸金属计算以及高性能本地块存储,可扩展到超过32,000个GPU所组成的超级集群。
微软Azure预计将在下个季度开始托管DGX Cloud。这项服务还将在不久之后扩展到谷歌云等。
行业巨头利用NVIDIA DGX Cloud加速取得成功
首批使用DGX Cloud的AI行业先锋包括全球领先的生物技术公司安进(Amgen)、保险科技领导者CCC Intelligent Solutions(CCC)以及数字业务平台提供商ServiceNow。
安进正在使用DGX Cloud与NVIDIA BioNeMo™大型语言模型软件来加速药物研发,比如包含NVIDIA RAPIDS™数据科学加速库的NVIDIA AI Enterprise软件。
安进数字创新研究加速中心、生物制剂治疗研究执行总监Peter Grandsard表示:“借助NVIDIA DGX Cloud和NVIDIA BioNeMo,我们的研究人员能够把精力集中在更深层次的生物学研究上,无需再处理AI 基础设施和设置机器学习工程。相较于其他平台,我们借助DGX Cloud的强大算力和多节点能力,同时结合BioNeMo将蛋白质LLM的训练速度提高 了3倍,使用NVIDIA RAPIDS将训练后分析速度提高了100倍。”
财产和意外保险领域的领先云平台CCC正在使用DGX Cloud,以加快和扩展其AI模型的开发与训练。这些模型为该公司的创新汽车理赔解决方案赋能, 帮助加速该行业的智能自动化,并为每天数百万的企业用户及其消费者改进理赔体验。
ServiceNow正在使用DGX Cloud与本地NVIDIA DGX超级计算机,来构建灵活可扩展的混合云AI超级计算,以来帮助其在大型语言模型、代码生成和因果分析方面的AI研究。ServiceNow还与其他机构共同发起了一个负责任的开放科学生成式AI倡议——BigCode项目,其在NVIDIA的Megatron-LM框架上进行训练。
打开一个浏览器即可使用NVIDIA AI超级计算和软件
企业可以使用 NVIDIA Base Command™平台软件管理和监控DGX Cloud训练工作负载,该软件可实现DGX Cloud以及本地NVIDIA DGX超级计算机之间用户体验的无缝衔接。通过使用Base Command 平台,用户可根据每项工作所需的DGX基础设施的数量和类型,将工作负载与之相匹配。
DGX Cloud包含NVIDIA AI Enterprise。NVIDIA AI Enterprise作为NVIDIA AI平台的软件层,通过提供端到端AI框架和预训练模型,来加速数据科学流程,并简化生产级AI的开发和部署。今日发布的NVIDIA AI Enterprise 3.1提供新的预训练模型、经过优化的框架和加速数据科学软件库,可进一步帮助开发人员启动他们的AI项目。
DGX Cloud的每个实例都配有8个NVIDIA H100或A100 80GB Tensor Core GPU,每个节点共有640GB GPU内存。使用NVIDIA 网络解决方案构建的高性能、低延迟结构确保了工作负载能够在互连系统集群中扩展,使多个实例就像一个巨型的GPU,以满足高级AI训练性能要求。集成在DGX Cloud中的高性能存储为AI超级计算提供了完整的解决方案。
DGX Cloud特有的来自NVIDIA专家的支持贯穿整个AI开发流程。用户可以直接与NVIDIA工程师一起优化模型,并迅速解决各种行业用例中的开发难题。
供应情况
DGX Cloud实例的价格为每实例每月36,999美元起。企业机构可以联系NVIDIA Partner Network合作伙伴了解更多详情。