英特尔® 酷睿™ Ultra 和第五代英特尔® 至强® 可扩展处理器丰富了英特尔出色的AI产品组合,加速 AI 惠及千行百业,开启全民 AI 时代。
今天,在纽约举行的“让AI无处不在”活动上,英特尔推出一系列出色的AI产品组合,旨在助力用户从数据中心、云、网络,到边缘和 PC等各个领域打造无处不在的AI解决方案。
亮点包括:
• 英特尔® 酷睿™ Ultra移动处理器家族,是首款基于 Intel 4 制程工艺打造的处理器,代表着英特尔40年来最重大的架构变革,并同时成为英特尔最具能效比的客户端处理器,在AI PC新时代引领产业向前迈进。
• 第五代英特尔® 至强® 可扩展处理器在每个核心中内置了AI加速器,带来了AI和整体性能的跃升,以及更低的总体拥有成本(TCO)。
• 英特尔首席执行官帕特•基辛格首次展示了将于明年如期面世的英特尔® Gaudi®3加速器。
英特尔首席执行官帕特•基辛格表示:“AI 创新将把数字经济的影响力提升至全球GDP的三分之一1,英特尔正在开发相关的技术和解决方案,助力用户能够在所有应用中轻松集成并高效地运行 AI,包括从云端到生成并使用数据的本地 PC 和边缘设备上。”
基辛格还展示了英特尔从云、企业级服务器和网络,到量产的客户端,以及独特的边缘场景等领域广泛的 AI 产品布局。他同时强调了英特尔的四年五个节点进程正在稳步推进。
基辛格表示:“英特尔的使命是通过精心打造的平台、安全的解决方案和对开放生态系统的支持,让 AI 无处不在。无论是引领 AI PC 时代的英特尔酷睿 Ultra ,还是为企业打造的第五代英特尔至强可扩展处理器,都壮大了我们的 AI 产品组合。”
英特尔酷睿Ultra处理器,为 AI PC和全新应用提供动力
英特尔酷睿 Ultra 处理器代表了公司 40 年来最重大的架构变革,为 CPU 计算、图形、电源、电池续航和AI 体验等各个方面都带来出色表现。英特尔® 迅驰技术让笔记本电脑通过 Wi-Fi 连接开启无线上网时代,AI PC 则代表着 20 年来 PC 体验的又一巨大变革。
英特尔酷睿Ultra 处理器采用了英特尔首个用于客户端的片上AI加速器“神经网络处理单元(NPU)”,将高能效AI加速提升到了新的高度,带来2.5倍2于上一代产品的能效表现。该处理器出色的 GPU 和 CPU 也都能够加速AI解决方案。
值得一提的是,英特尔正与 100 多家软件厂商紧密合作,为 PC 市场带来数百款AI增强型应用,这些极具创造力、生产力和趣味性的应用将变革 PC体验。对于消费者和商用客户来说,这意味着更广泛的AI增强型应用将能够在英特尔酷睿 Ultra 平台上流畅运行,例如,使用 Adobe Premier Pro 的内容创作者将享受到出众的体验3。
明年,英特尔酷睿 Ultra 处理器将为全球笔记本电脑和PC制造商的 230 多款机型带来AI特性。到2028年,AI PC将占PC市场的80% 4,并为我们的工作、学习和创作带来新的工具。
全新至强处理器为数据中心、云、网络和边缘带来更强大的AI功能
同日推出的第五代英特尔至强可扩展处理器系列在性能和能效方面5实现了重大飞跃:与上一代产品相比,在相同的热设计功率范围内,平均性能提升21%6,并在一系列工作负载中将每瓦性能提升高达36%7。对于遵循典型的五年更新周期并从更前一代处理器进行升级的客户,总体拥有成本最多可降低77%8。
英特尔至强可扩展处理器是业界领先的内置AI加速器的主流数据中心处理器,而全新第五代英特尔至强可扩展处理器更是能够微调参数量多达200亿的大语言模型9,并将其推理性能提高42%。现阶段,英特尔至强可扩展处理器也是唯一一款拥有MLPerf 训练和推理基准测试结果并持续提升性能的 CPU。
得益于内置AI加速器,以及优化的软件和增强的遥测功能,英特尔至强可扩展处理器能够让通信服务提供商、内容分发网络以及包括零售、医疗和制造业在内的广泛垂直市场,更灵活和高效地部署对网络和边缘工作负载要求严苛的解决方案。
在今天的活动上,IBM表示,与上一代英特尔至强可扩展处理器的测试数据相比,第五代英特尔至强可扩展处理器在其watsonx.data平台上的网络查询吞吐量提高了2.7倍10。将于明年部署第五代英特尔至强可扩展处理器的谷歌云指出,得益于谷歌云中第四代英特尔至强可扩展处理器内置的加速器,Palo Alto Networks在其基于深度学习模型的威胁检测的性能得到两倍提升。独立游戏工作室 Gallium Studios 采用在英特尔至强可扩展处理器上运行的 Numenta AI 平台,推理性能比基于 GPU 的云实例提高了 6.5 倍,从而为其基于 AI 的游戏 Proxi 节省成本并缩短延迟11。
这种高性能也为在数据中心、云,以及全球网络和边缘应用中解锁领先的AI功能提供了更多新的可能性。
在开发者需要的地方提供无处不在的AI加速和解决方案
展望未来,酷睿Ultra 处理器和第五代英特尔至强可扩展处理器将遍布在各种令人意想不到的地方。想象一下,餐厅不仅能向您展示菜单,还能根据您的预算和饮食需求提供点餐指导;制造车间能从源头把控质量和安全问题;超声波能看到人眼可能漏掉的东西;电网能更细致且精准地管理电力。
这些边缘计算用例代表了增长最快的计算领域,预计到2030年全球市值将激增至 4,450 亿美元,其中AI是增长最快的工作负载。在该市场中,边缘和客户端设备对推理的需求相比数据中心超过了 1.4 倍12。
许多情况下,客户会根据业务实际情况混合部署AI解决方案。以Zoom为例,该公司的一体化通信与协作平台包含了基于英特尔酷睿的客户端系统,和基于英特尔至强的云解决方案。Zoom 在该客户端系统和云解决方案上运行AI工作负载,以提供出色的用户体验和成本表现。利用AI,Zoom 不仅可以屏蔽邻居家的狗叫声,对凌乱的家庭办公室背景进行模糊处理,还可以生成会议摘要和电子邮件。
与此同时,为推动AI硬件技术普及并易于使用,英特尔优化开发人员使用的AI框架(如 PyTorch 和 TensorFlow),并(通过 oneAPI)提供基础库,使软件在不同类型的硬件上都具有可移植性和高性能。
先进的开发工具(包括英特尔的oneAPI 和 OpenVINO 工具包)可帮助开发者利用硬件加速功能处理AI工作负载和部署解决方案,并在各种推理目标上快速构建、优化和部署AI模型。
现阶段,英特尔与合作伙伴和广泛的生态系统携手合作,正不断解锁AI带来的新增长机遇,让AI无处不在。
1. 来源于 Oxford Economics、BCG、和McKinsey data 的相关项目数据。
2. 基于 UL Procyon AI benchmark 的每瓦特性能指标测试,同时在英特尔酷睿 Ultra 165H 和英特尔酷睿 i7-1370P 的 GPU 上运行 int8 模型做对比。详细工作负载和配置参见 www.intel.com/PerformanceIndex。实际结果可能有所不同。
3. 基于PugetBenchPremier Pro Standard (v24.1) benchmark 进行测试。工作负载和配置参见 www.intel.com/PerformanceIndex。实际结果可能有所不同。
4. 数据来源: Boston Consulting Group
5. 通过对比第四代英特尔至强处理器运行SPEC CPU rate、STREAM Triad、LINPACK 的几何平均数测得平均性能。参见 intel.com/processorclaims 的 G1 部分:第五代英特尔至强处理器。实际结果可能有所不同。
6. 通过对比第四代英特尔至强处理器运行SPEC CPU rate、STREAM Triad、LINPACK 的几何平均数测得平均性能。参见 intel.com/processorclaims 的 G1 部分:第五代英特尔至强处理器。实际结果可能有所不同。
7. 参见 intel.com/processorclaims 的【T13】:第五代英特尔至强可扩展处理器。实际结果可能有所不同。
8. 参见intel.com/processorclaims的【T7】:第五代英特尔至强可扩展处理器。实际结果可能有所不同。
9. 基于英特尔内部模型测试(截止到2023年12月),实际性能可能有所不同。参见intel.com/processorclaims 的 A1、A2、A16:第五代英特尔至强处理器。
10. 参见 intel.com/processorclaims 的【D7】:第五代英特尔至强可扩展处理器。实际结果可能有所不同。
11. NVIDIA Tesla M60 GPU:已由 Gallium于2023 年 11 月 17 日测试。AWS g3s.xlarge 上的1节点、1x GPU、4vCPU、30.5 GB内存、8 GB GPU 内存、Ubuntu 22.04 Kernel 5.17、Gallium 自定义 Word2vec、序列长度 64、批量大小 64。第四代英特尔® 至强® 可扩展处理器:已由 Gallium于2023 年11月28日测试。1节点、AWS m7i.xlarge 上的 2 个Intel® Xeon® Platinum 8488C、16GB 内存、Ubuntu 22.04 Kernel 5.17、Numenta 智能计算平台 V1.0、Numenta优化的BERT-Large、序列长度64、BF16、批量大小64 。
12. 人工智能和机器学习调查,22.2,埃文斯数据公司,2023 年。