解决 AI 问题,同时保持 MIPS 的 MIPS 特性(MIPSiness)

发布时间:2024-07-08  

MIPS现在专注于其特定应用的数据移动核心,正瞄准AI应用,并谨慎发挥其优势。MIPS的CEO Sameer Wasson在接受EE Times采访时表示:“MIPS面临一个选择,因为我们的大多数RISC-V竞争对手也在公开或私下努力转向AI。我们选择了看其他人没有很好解决的问题,并尝试将其与我们能做得更好的事情相匹配。”


对MIPS来说,这意味着数据移动——这是MIPS历史和专业知识中的重要部分,对于高性能AI芯片和系统至关重要。


“我们想解决的问题是构建最好的数据处理引擎,”Wasson说。“这项任务可能没有相对于AI IP的那种热度,但坦率地说,我对此非常满意,因为这让我们能够低调行事。”


他补充道,客户长期以来一直在构建自己的专有数据移动核心。MIPS希望取代这些专有核心。


“AI架构需要演变。”Wasson说。“数据移动引擎成为DPU,从CPU或GPU卸载变得关键。这样我们才能实现300 Gb/s或3 Tb/s或所需的任何速度。”


更高效的数据移动可以通过提高CPU、GPU和加速器的利用率来帮助解决数据中心的功耗问题,并通过提高数据移动效率来改善热考虑。


MIPS在当今数据中心AI系统中看到其DPU核心的多个应用机会。这包括从主机CPU卸载数据移动,使用并行和多线程来进行网络数据的内联处理,比如MIPS的某个智能网卡客户所做的那样。数据移动的新兴应用包括AI计算和存储,旁边是GPU和定制AI加速器。


Wasson对新内存技术的潜力特别感兴趣——智能CXL结构或智能DIMM——这些地方MIPS的多线程、PPA优化的RISC-V核心非常适用。


“到目前为止,我们一直在将数据传送到控制侧进行处理,”他说。“如果我们把控制器带到数据那边呢?这是近内存计算……可用市场总量巨大。”


愿景是将小型计算核心嵌入到内存中,而不是相反。随着CXL支持的内存池化成为现实,有机会进行一些预处理,如流量整形和优先级排序。


“从系统层面考虑流水线,”他说。“什么数据会先需要?接下来需要什么数据?即使你只能从事务中节省微秒时间,由于事务数量庞大,这也会累积起来,所以你开始提高CPU利用率,从而减少所需的CPU数量,减少所需的功率。”


数据中心客户今天将内存视为资本支出(CapEx)和运营支出(OpEx)问题,Wasson说,当内存池闲置等待计算时,OpEx尤其糟糕。


“你不能把x86核心放在那里,因为那仍然是一个大核心,”他说。“想想小型处理任务——数据导向的实时处理任务。这就是将要出现的。”


存储也是高效AI数据移动的一个巨大机会,他说。


GPU和AI加速器是一个新兴的机会。在GPU中,处理被分为标量、矢量和矩阵乘法。矩阵乘法加速引起了很多关注,但标量部分呢?


“在很多方面,标量是最无聊的部分,但它在很多方面也是最难的部分,因为只有三家公司在做,”Wasson说。“如果你能满足定制加速器的新兴市场需求,但标准化编程模型,你就会开始解决最大的一个问题,那就是软件,而不是硬件。”


数据移动


MIPS核心的主要特性包括硬件多线程能力和紧耦合内存,以及启用异构计算和一致性系统互连的能力。这些共同构成了Wasson喜欢称之为“MIPSiness”的品质。


“这基本上是MIPS的传统——MIPSiness——被传承下去,”他说。

image.png

MIPS核心具有硬件多线程和紧耦合内存。(来源:MIPS)


MIPS数据移动解决方案通常是一个核心集群,通常所有核心都是相同类型(MIPS也有乱序执行的P核心和顺序执行的I核心)以及MIPS一致性管理器。


“大客户喜欢MIPS,因为我们允许他们以原生格式将定制加速器连接到流水线中,”Wasson说,举例说明了自动驾驶汽车(AV)芯片制造商Mobileye作为客户。“这意味着更好的性能和成本。”


紧耦合内存为定制加速器、矢量引擎或DSP提供了低延迟,而硬件多线程和硬件虚拟化等功能增加了灵活性。


所有这些功能都是通过定制指令启用的。MIPS继续投资其工具,以允许客户添加自己的指令。这种能力以前广泛应用于MIPS ISA。


“我的研发费用的15%到20%用于工具,但我们不是工具公司,”Wasson说。“我们是一家计算和IP公司,我们通过工具启发客户,以便他们可以编写定制指令,但我们仍然负责提供性能。”


Wasson补充说,MIPS的客户参与模式是其IP的关键部分。


“这里有一个价值链,作为一家计算IP公司,我们必须明确我们带来的价值是什么,”他说。“我们不会通过超越客户来带来价值。我们是客户的推动力,我想确保我们会一直如此。”


RISC-V转型


MIPS在2018年从MIPS ISA转向RISC-V。有两种方法可以过渡到RISC-V,Wasson说:在你的ISA之上构建一个转换器(需要六个月时间)或完全过渡(需要六年时间)。MIPS选择了后者。


“[过渡到RISC-V]绝对是正确的决定,”Wasson说。“专有架构存在是因为历史原因,而且因为硬件工程师统治着半导体世界。但我们的客户是软件工程师。我们希望满足我们的客户基础,简单明了。”


RISC-V带来了标准化的好处,同时允许足够的差异化实现,使MIPS能够保持其“MIPSiness”,Wasson辩称。


“市场上缺乏教育,因为RISC-V的营销方式,”Wasson指出大多数人认为RISC-V是潜在的Arm杀手。“这个故事对媒体和投资者群体很有吸引力,但我认为你这样说会限制它的潜力。RISC-V的潜力要大得多,如果你考虑RISC-V可以从系统角度做什么。”


RISC-V可以在提供同质ISA的同时保持系统的异质性,他说。


“如果你想让系统重视数据处理,你可以,”他说。“如果你想让它重视信号处理,你可以。如果你想让它重视定制加速,你可以。所以从软件角度来看,想象一下你带来的简单性。”


今天的SoC可能有一个Arm核心,一个DSP和一个定制加速器——所有这些都是不同的ISA——给软件开发者带来了多个编译器。RISC-V可以减少这种复杂性,并最终降低成本。


“根据我们在客户方面看到的情况,人们开始使用RISC-V来解决SoC上的几乎每个问题,”他说。“这将带来下一轮创新,即简化你的软件栈,并专注于真正的问题,而不是试图管理多个栈。”


虽然Wasson不认为Arm会消失,但RISC-V最终将取代许多专有ISA,因为客户想要标准架构和标准工具。


现有的MIPS客户需要为新的MIPS RISC-V核心重新编译,但Wasson表示,由于公司有目的的设计决策,过渡应该是顺利的。


“软件是为机器定义的,它是多线程的,缓存一致的,等等,”他说。“当我们从MIPS ISA过渡到RISC-V ISA时,我们没有过渡到一个通用核心,我们保持了MIPSiness。在某些情况下,甚至内存映射都是完全相同的,客户多年来编写和维护的应用代码或固件几乎不需要更改。”


客户的痛点更多的是从Arm迁移到RISC-V,他说,尽管他预计长期(在未来7-10年内)从Arm迁移的客户只占其客户基础的三分之一。其余的将是解决新问题和新兴问题的人。


应用重点


保持MIPSiness的一部分是保持公司的强大应用重点。对于AI数据移动,MIPS的重点是定制AI在数据中心的解决方案,以及ADAS和AV。


这些细分市场包括数据中心的数据移动(用于DPU、内存、存储和新兴的GPU/加速器领域)和汽车应用,包括软件定义车辆、电动汽车和ADAS等延迟关键应用。


“了解这些应用导向的东西,这将使我们能够与专有架构竞争,因为坦白说,这就是你会找到它们的地方。”Wasson说。


Wasson的计划是将MIPS的重点限制在几个关键应用上,并坚持做IP公司,没有计划成为芯片供应商。


“在这里,作为一家IP公司是有帮助的,”他说。“如果你专注于你的优势和某些应用,你仍然会找到大量想要构建这种技术的人,因为你将服务于许多SoC和许多系统。所以你的TAM会增加,因为你是一家IP公司。”


2018年,MIPS被Wave Computing收购,后者是首批AI芯片初创公司之一,但最终破产。MIPS在Wave内部被视为一个独立的业务单元,继续繁荣发展。公司保留了Wave的IP——Wasson有计划在近期提供AI加速器IP核心吗?


“一次只做一件事!”Wasson笑着说。

文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>