拓展生成式AI应用,微软推出两款自研芯片Maia、Cobalt

发布时间:2023-11-17  

随着AI技术应用的不断深入,微软正在重新构想云基础设施,以确保每一层硬件和软件堆栈都获得优化。

11月16日,微软在Ignite技术大会发布了基于微软数据中心集群的创新产品,包括行业合作伙伴推出的最新AI优化芯片,以及微软设计的两款芯片。

一款是AI加速器芯片,其名为Microsoft Azure Maia ,它可用于OpenAI模型、Bing、GitHub Copilot和 ChatGPT 等AI工作负载运行云端训练和推理。 另一款则是基于 Arm 架构的云原生芯片 Microsoft Azure Cobalt,它是针对通用工作负载的性能、功率和成本效益进行了优化。 此外,Azure Boost也将正式商用。该系统可将存储和网络进程从主机服务器转迁移到专用硬件和软件上,从而提高存储和网络速度。

作为定制芯片的补充,微软正在拓展与芯片供应商的合作伙伴关系,为客户提供基础设施选项。为此,微软将在其智能云 Azure 中添加 AMD MI300X 加速虚拟机(VMs)。ND MI300 虚拟机(VMs)将采用 AMD 最新的 GPU——AMD Instinct MI300X,旨在加速AI工作负载的处理,以实现高范围的AI模型训练和生成式推理。 为英伟达H100 Tensor Core GPU打造的全新NC H100 v5虚拟机系列开放预览,将提高大中型AI训练和生成式推理的性能、可靠性和效率。

微软还发布了 ND H200 v5 虚拟机系列计划,这是一款AI优化虚拟机,配备了即将推出的英伟达 H200 Tensor Core GPU。

此外,微软还与 OpenAI 建立合作伙伴关系,并将 ChatGPT 功能集成于搜索、协作、工作和学习工具中。据悉,新的 GPT-3.5 Turbo 模型(支持16K token提示词长度)将正式商用,GPT-4 Turbo 将于2023年11月底在Azure OpenAI服务中公开预览。GPT-4 Turbo将使客户能够扩展提示词长度,为生成式AI应用带来更多控制和效率。

文章来源于:国际电子商情    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>