集成的 RISC-V AI IP 处理元件可满足 AI 芯片日益增长的需求

在 2024 年嵌入式世界大会上发布，展台号 5-337

欧洲 RISC-V 定制内核人工智能专家 Semidynamics 宣布推出 "All-In-One AI "IP，该 IP 专为超强的下一代人工智能芯片和变压器等算法而设计。目前，人工智能芯片设计人员采用在系统 CPU 旁集成独立 IP 块的方法来应对人工智能日益增长的需求。Semidynamics 采取了一种革命性的统一解决方案，将 RISC-V、矢量、张量和 Gazzillion 技术结合在一起，使人工智能芯片现在可以轻松编程并扩展到所需的任何处理能力。

人工智能的数据量和处理需求不断增加，目前的解决方案基本上是集成更多的独立功能块。CPU 将专用的部分工作负载分配给 gpGPU（通用图形处理器单元）和 NPU（神经处理器单元），并管理这些单元之间的通信。但这有一个很大的问题，即在区块之间移动数据会产生很高的延迟。此外，三种不同类型的 IP 模块都有各自的指令集和工具链，很难进行编程。最后，由于不断推出新的人工智能算法，如今的不可编程、功能固定的 NPU 块甚至在进入硅片之前就已经过时。今天设计的人工智能芯片在 2027 年进入硅片时很容易过时，因为软件的发展速度总是快于硬件。

Semidynamics 的新型 All-In-One AI IP 处理元件

Semidynamics首席执行官Roger Espasa表示："目前的人工智能芯片配置通常由三家不同的IP供应商和三条工具链组成，PPA（功率性能区域）较差，而且越来越难以适应新算法。例如，它们无法处理称为变压器的人工智能算法，但我们的一体化人工智能 IP 却非常适合。我们创造了一种全新的方法，由于只有 RISC-V 指令集和单一的开发环境，因此编程非常简单。将各种模块集成到一个 RISC-V AI 处理元件中，意味着可以轻松部署新的 AI 算法，而不必担心在哪里分配工作负载。数据保存在矢量寄存器中，可由矢量单元或张量单元使用，各部分只需轮流等待，根据需要访问相同的位置。因此，通信延迟为零，缓存最小化，从而优化了 PPA，但最重要的是，它可以轻松扩展，以满足更高的处理和数据处理要求。"

Semidynamics 将其四个创新 IP 结合在一起，形成一个完全集成的解决方案，称为 "All-In-One AI "IP处理元件。它具有完全可定制的 RISC-V 64 位内核、矢量单元（如 gpGPU）、张量单元（如 NPU）和 Gazzillion® 单元，可确保从内存中的任何位置处理海量数据，而不会出现缓存缺失。因此，只需一个 IP 供应商、一个 RISC-V 指令集和一个工具链，就能大大简化和加快实施过程，并降低风险。可以在单个芯片上集成满足应用需求的任意数量的这些新处理元件，以创建下一代超强人工智能芯片。

罗杰-埃斯帕萨总结说："我们已经建立了一种全新的方式来构建功能更强大的芯片，我们相信这将使人工智能克服当前最先进设计的不足。我们革命性的一体化 All-In-One AI 处理元件创造了一个可扩展的解决方案，它将成为新一代超强 AI 芯片的核心，每个人都可以使用。通过使用我们全新的配置工具，他们可以在处理元件中创建具有 RISC-V 控制能力的张量和矢量单元的适当平衡。

"我们一体式人工智能 IP 中的 RISC-V 内核提供了'智能'，可以适应当今最复杂的人工智能算法，甚至是尚未发明的算法。张量单元为卷积提供了纯粹的矩阵乘法能力，而矢量单元则具有完全通用的可编程性，可以处理当今的任何激活层以及未来人工智能软件界所能梦想的任何问题。All-In-One 处理元件既简单又可重复，解决了可扩展性问题，因此我们的客户可以根据需要在芯片上使用尽可能多的处理元件，从 1/4 TOPS 扩展到数百 TOPS。此外，我们的 IP 仍可完全定制，使公司能够创建独特的解决方案，而不是使用现成的标准芯片。

Semidynamics 

Semidynamics® 成立于 2016 年，总部位于西班牙巴塞罗那，是唯一一家提供可完全定制的 RISC-V 处理器 IP 的公司，专注于针对机器学习和人工智能应用提供具有向量单元和张量单元的高带宽、高性能内核。该公司为私营企业，是 RISC-V 联盟的战略成员。