FPGA还是GPU?你的AI主芯片将如何选择

发布时间:2023-02-02 10:10  

尽管模仿人类思想和想法的软件算法是人工智能的基础,但硬件也是一个重要组成部分,这就是现场可编程门阵列 (FPGA) 和图形处理单元(GPU)发挥重要作用的地方。

人工智能 (AI) 是指能够以与人类相同的方式做出决策的非人类机器智能。 这包括沉思、适应能力、意图能力和判断力。机器视觉、机器人自动化、认知计算、机器学习和计算机视觉都是人工智能市场的应用。人工智能正在汽车、消费电子、媒体和娱乐以及半导体等多个行业领域迅速获得关注,预示着下一次伟大的技术变革。

半导体预计将在未来几年持续增长。 随着全球对机器学习设备的需求不断增长,许多属于 EDA(电子设计自动化)、显卡、游戏、多媒体行业的主要市场参与者正在投资提供创新的高速计算处理器。 虽然人工智能主要基于模仿人类思想和想法的软件算法,但硬件也是一个重要组成部分。 现场可编程门阵列 (FPGA) 和图形处理单元 (GPU) 是大多数 AI 操作的两种主要硬件解决方案。 据先行研究组预测,2021年全球人工智能硬件市场规模为104.1亿美元,预计到2030年将达到892.2亿美元,2022-2030年复合年增长率为26.96%。

FPGA 和 GPU 概述

FPGA 概述

具有可重新编程逻辑门的硬件电路称为现场可编程门阵列 (FPGA)。 当芯片在现场使用时,用户可以通过覆盖配置来设计独特的电路。 这与不能重新编程的标准芯片形成对比。 使用 FPGA 芯片,您可以构建从简单的逻辑门到多核芯片组的任何东西。 FPGA 的使用非常流行,其中内部电路是必不可少的,并且预计会发生变化。 FPGA 应用涵盖 ASIC 原型设计、汽车、多媒体、消费电子产品以及更多领域。根据应用要求,可选择低端、中端或高端 FPGA 配置。 Lattice 半导体的 ECP3 和 ECP5 系列、Xilinx 的 Artix-7/Kintex-7 系列和 Intel 的 Stratix 系列是一些流行的低功耗和低设计密度的 FPGA 设计。

逻辑块是使用具有有限输入的查找表 (LUT) 构建的,并使用基本存储器(例如 SRAM 或闪存)来构建以存储布尔函数。 每个 LUT 都链接到一个多路复用器和一个触发器寄存器以支持时序电路。 同样,许多 LUT 可用于创建复杂的功能。

FPGA 更适合嵌入式应用,并且比 CPU 和 GPU 使用的功率更低。 这些电路不受 GPU 等设计的限制,可用于定制数据类型。 此外,FPGA 的可编程性使得修改它们变得更加简单。

使用 FPGA 的优势

高效节能

借助 FPGA,设计人员可以精确调整硬件以满足应用程序的要求。 凭借其低功耗能力,可以最大限度地降低 AI 和 ML 应用程序的整体功耗。 这可以延长设备的使用寿命并降低培训的总体成本。

易于灵活

FPGA 为处理 AI/ML 应用程序提供了可编程性的灵活性。 可以根据需要对一个单独的块或整个块进行编程。

减少延迟

FPGA 擅长处理短语并减少延迟。 减少延迟是指计算系统以最小延迟响应的能力。 这在视频监控、视频预处理和后处理以及文本识别等实时数据处理应用中至关重要,在这些应用中,每一微秒都至关重要。 因为它们在没有操作系统的裸机环境中运行,所以 FPGA 和 ASIC 比 GPU 更快。

并行处理

FPGA 的操作和能源效率由于它们能够同时执行多项任务甚至指定设备的特定部分用于特定功能而得到显着提高。 少量分布式内存包含在 FPGA 特殊架构的结构中,使它们更接近处理器。

GPU 概述

图形处理单元 (GPU) 的最初目的是创建计算机图形和虚拟现实环境,这些环境依赖于复杂的计算和浮点功能来渲染几何对象。 没有它们,现代人工智能基础设施将不完整,并且非常适合深度学习过程。

人工智能需求大量数据可供研究和学习以取得成功。 要运行人工智能算法并移动大量数据,需要大量的计算能力。 GPU 可以执行这些任务,因为它们的创建是为了快速处理生成图形和视频所需的大量数据。 它们在机器学习和人工智能应用中的广泛使用部分归功于它们的高计算能力。

GPU 可以同时处理多项计算。 因此,可以分布式训练程序,从而大大加快机器学习活动。 使用 GPU,您可以添加多个资源需求较低的内核,而不会影响性能或功率。 市场上有各种类型的 GPU,通常分为以下几类,例如数据中心 GPU、消费级 GPU 和企业级 GPU。

使用 GPU 的优势

内存带宽

GPU 具有良好的内存带宽,因此在深度学习应用程序中它们往往可以快速执行计算。 在大型数据集上训练模型时,GPU 消耗的内存更少。 凭借高达 750GB 的内存带宽,它们可以真正加速 AI 算法的快速处理。

多核

通常,GPU 由许多可以组合在一起的处理器集群组成。 这使得可以极大地提高系统的处理能力,特别是对于具有并行数据输入、卷积神经网络 (CNN) 和 ML 算法训练的 AI 应用程序。

灵活性

由于 GPU 的并行能力,您可以将 GPU 分组到集群中并在这些集群之间分配作业。 另一种选择是使用具有专用集群的单个 GPU 来训练特定算法。 具有高数据吞吐量的 GPU 可以并行地对许多数据点执行相同的操作,从而使它们能够以无与伦比的速度处理大量数据。

数据集大小

对于模型训练,AI 算法需要大量数据集,这会导致内存密集型计算。 GPU 是高效处理具有许多大于 100GB 的数据点的数据集的最佳选择之一。 自并行处理开始以来,它们提供了有效处理基本相同或非结构化数据所需的原始计算能力。

运行 AI 应用程序的两个主要硬件选择是 FPGA 和 GPU。 尽管 GPU 可以处理 AI 和深度学习所需的海量数据,但它们在能效、热问题、耐用性以及使用新 AI 算法更新应用程序的能力方面存在局限性。 FPGA 为神经网络和 ML 应用程序提供了显着优势。 这些包括易于 AI 算法更新、可用性、耐用性和能源效率。

此外,在为 FPGA 创建软件方面取得了重大进展,这使得编译和编程变得更加简单。 为了让您的 AI 应用程序取得成功,您必须调查您的硬件可能性。 正如所说,在确定行动方案之前,请仔细权衡您的选择。

文章来源于:ECCN    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    ,再到学术界,大多是把 FPGA 当作跟 GPU 一样的计算密集型任务的加速卡。然而 FPGA 真的很适合做 GPU 的事情吗?前面讲过,FPGA 和 GPU 最大的区别在于体系结构,FPGA适合做......
    领域需要高速的通信协议处理方式,另一方面通信协议随时都在修改,不适合做成专门的芯片,所以能够灵活改变的功能的FPGA就成了首选。并行和可编程是FPGA最大的优势。 2.核心板设计 今天分享的核心板是明德扬公司研发的K7核心......
    好认识下他们的长相。 你可能会觉得本文的标题很奇怪,难道只能用PMOS做信号开关?只有NMOS才能做电平转换?下文会详细解释这些疑问。 先把结论放前面 PMOS适合做......
    单片机干嘛的?嵌入式是单片机吗?;我见过很多初学者,搞不清嵌入式开发是做什么的,学什么的,也搞不懂嵌入式和单片机的关系。 在网上找了很多资料,发现看的云里雾里,很多想入行的小伙伴本来还信心满满,看完......
    某个方向上又包括哪些岗位。 这次就来聊聊到底都是在做什么?为什么成了当下转行风口?里面各种职位都有哪些要求?有什么区别?我尽量做到言简意赅,说大白话。 本期内容适用对象为有意想转行IC的同学,即将毕业进入IC行业......
    ,不能做什么,该沿着什么样的方向去落地,我们的策略叫一横一纵。技术平台是一横,目前已经搭建起来,行业落地是一纵,加速云要把通信、人工智能、数字信号处理与FPGA技术等集成在一起,深度......
    FPGA比单片机厉害吗?;01 前言本文引用地址:做开发的工程师,一般都会接触。有读者大概问了这样的问题:能做什么?比厉害吗? 这么说吧,在某方面也能实现做的事,在某些领域,FPGA远比......
    延长了电池寿命,给最终用户带来更多的价值。 “超低有功功率和世界最小的传感器管理解决方案相结合,可用于设计一种全新的智能设备,能够知道它们在哪里,在做什么”,莱迪......
    -MOS导通,引脚联通GND。**该方式既提高电路的负载能力,又提高开关速度。 ** 开漏输出:无法直接输出高电平,要在外部连接上拉电阻才行,输出的电压由上拉电阻连接的电源决定。适合做电流型的驱动,其吸......
    51单片机可以做什么实用的产品?;我用51的单片机做过不少于10款产品了。 我看到很多文章,说51已经过时了,新手没必要学习51单片机,可以直接学STM32。 我个人认为这种说法存在一定的误导,51......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>