高通公司和英伟达竞争 AI 芯片能效指标

发布时间:2023-04-06  

据业信息报道,在昨天公布的一组新测试数据中,公司和竞争 相关的性能指标,其中,高通公司的 AI 100 芯片在图像分类方面优于英伟达的旗舰 H100 芯片,而在自然语言处理测试中,英伟达的绝对性能和能效方面均优于高通公司。

AI 芯片也被称为 AI 加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责),目前业内将 AI 芯片分为 GPU 、FPGA 、ASIC。

AI 的许多数据处理涉及矩阵乘法和加法,大量并行工作的 GPU 提供了一种廉价的方法,但缺点是更高的功率。具有内置 DSP 模块和本地存储器的 FPGA 更节能,但它们通常更昂贵。

业内对于 AI 芯片的实现方式和原理仍众说纷纭,这是新技术的特点,探索阶段百花齐放,这也与深度学习等算法模型的研发并未成熟有关,换句话说也就是 AI 的基础理论方面仍然存在很大空白,所以在集中在如何更好的适应已有的数据流式处理模式进行的芯片优化设计。

技术手段方面 AI 市场的第一颗芯片包括现成的 CPU,GPU,FPGA 以及 DSP 的各种组合。虽然新设计正在由英特尔、谷歌、英伟达、高通,以及 IBM 等公司开发,但还不清楚哪家的方法会更有优势。

据悉,英伟达在使用大量数据训练 AI 模型方面占据主导地位,但在这些 AI 模型经过训练后,它们会被更广泛地用于所谓的智能逻辑推理,执行生成对提示的文本响应以及判断图像等任务。

业内的一些分析师认为,随着企业将 AI 技术应用到他们的产品中,数据中心推理芯片市场将快速增长,但谷歌等公司已经在探索如何控制这样做会增加的额外成本。其中一项主要成本是电费,高通公司利用其为智能手机等电池供电设备设计芯片的历史,打造了一款名为 Cloud AI 100 的芯片主打降低功耗。

在维护 AI 芯片行业广泛使用的测试基准的工程联盟 MLCommons 周三发布的测试数据中,高通的 AI 100 在图像分类方面击败了英伟达的旗舰 H100 芯片,基于每个芯片单位功率可以运行多少数据中心服务器查询。

高通公司的芯片达到 197.6 个服务器查询/瓦,而英伟达达到 108.4 个查询/瓦,令人意外的是,由资深台湾学者林永龙创立的初创公司 Neuchips 以 227 次查询/瓦位居榜首。

高通还在对象检测方面击败了英伟达,得分为 3.2 个查询/瓦,而英伟达的每瓦查询为 2.4 个,对象检测可用于分析零售店镜头等应用,以查看购物者最常去的地方。然而在自然语言处理测试中,英伟达在绝对性能和能效方面均名列前茅,这是聊天机器人等系统中使用最广泛的 技术。达到每瓦 10.8 个样本,而 Neuchips 以每瓦 8.9 个样本排名第二,以每瓦 7.5 个样本位居第三。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>