MIPS现在专注于其特定应用的数据移动核心,正瞄准AI应用,并谨慎发挥其优势。MIPS的CEO Sameer Wasson在接受EE Times采访时表示:“MIPS面临一个选择,因为我们的大多数RISC-V竞争对手也在公开或私下努力转向AI。我们选择了看其他人没有很好解决的问题,并尝试将其与我们能做得更好的事情相匹配。”
对MIPS来说,这意味着数据移动——这是MIPS历史和专业知识中的重要部分,对于高性能AI芯片和系统至关重要。
“我们想解决的问题是构建最好的数据处理引擎,”Wasson说。“这项任务可能没有相对于AI IP的那种热度,但坦率地说,我对此非常满意,因为这让我们能够低调行事。”
他补充道,客户长期以来一直在构建自己的专有数据移动核心。MIPS希望取代这些专有核心。
“AI架构需要演变。”Wasson说。“数据移动引擎成为DPU,从CPU或GPU卸载变得关键。这样我们才能实现300 Gb/s或3 Tb/s或所需的任何速度。”
更高效的数据移动可以通过提高CPU、GPU和加速器的利用率来帮助解决数据中心的功耗问题,并通过提高数据移动效率来改善热考虑。
MIPS在当今数据中心AI系统中看到其DPU核心的多个应用机会。这包括从主机CPU卸载数据移动,使用并行和多线程来进行网络数据的内联处理,比如MIPS的某个智能网卡客户所做的那样。数据移动的新兴应用包括AI计算和存储,旁边是GPU和定制AI加速器。
Wasson对新内存技术的潜力特别感兴趣——智能CXL结构或智能DIMM——这些地方MIPS的多线程、PPA优化的RISC-V核心非常适用。
“到目前为止,我们一直在将数据传送到控制侧进行处理,”他说。“如果我们把控制器带到数据那边呢?这是近内存计算……可用市场总量巨大。”
愿景是将小型计算核心嵌入到内存中,而不是相反。随着CXL支持的内存池化成为现实,有机会进行一些预处理,如流量整形和优先级排序。
“从系统层面考虑流水线,”他说。“什么数据会先需要?接下来需要什么数据?即使你只能从事务中节省微秒时间,由于事务数量庞大,这也会累积起来,所以你开始提高CPU利用率,从而减少所需的CPU数量,减少所需的功率。”
数据中心客户今天将内存视为资本支出(CapEx)和运营支出(OpEx)问题,Wasson说,当内存池闲置等待计算时,OpEx尤其糟糕。
“你不能把x86核心放在那里,因为那仍然是一个大核心,”他说。“想想小型处理任务——数据导向的实时处理任务。这就是将要出现的。”
存储也是高效AI数据移动的一个巨大机会,他说。
GPU和AI加速器是一个新兴的机会。在GPU中,处理被分为标量、矢量和矩阵乘法。矩阵乘法加速引起了很多关注,但标量部分呢?
“在很多方面,标量是最无聊的部分,但它在很多方面也是最难的部分,因为只有三家公司在做,”Wasson说。“如果你能满足定制加速器的新兴市场需求,但标准化编程模型,你就会开始解决最大的一个问题,那就是软件,而不是硬件。”
数据移动
MIPS核心的主要特性包括硬件多线程能力和紧耦合内存,以及启用异构计算和一致性系统互连的能力。这些共同构成了Wasson喜欢称之为“MIPSiness”的品质。
“这基本上是MIPS的传统——MIPSiness——被传承下去,”他说。
MIPS核心具有硬件多线程和紧耦合内存。(来源:MIPS)
MIPS数据移动解决方案通常是一个核心集群,通常所有核心都是相同类型(MIPS也有乱序执行的P核心和顺序执行的I核心)以及MIPS一致性管理器。
“大客户喜欢MIPS,因为我们允许他们以原生格式将定制加速器连接到流水线中,”Wasson说,举例说明了自动驾驶汽车(AV)芯片制造商Mobileye作为客户。“这意味着更好的性能和成本。”
紧耦合内存为定制加速器、矢量引擎或DSP提供了低延迟,而硬件多线程和硬件虚拟化等功能增加了灵活性。
所有这些功能都是通过定制指令启用的。MIPS继续投资其工具,以允许客户添加自己的指令。这种能力以前广泛应用于MIPS ISA。
“我的研发费用的15%到20%用于工具,但我们不是工具公司,”Wasson说。“我们是一家计算和IP公司,我们通过工具启发客户,以便他们可以编写定制指令,但我们仍然负责提供性能。”
Wasson补充说,MIPS的客户参与模式是其IP的关键部分。
“这里有一个价值链,作为一家计算IP公司,我们必须明确我们带来的价值是什么,”他说。“我们不会通过超越客户来带来价值。我们是客户的推动力,我想确保我们会一直如此。”
RISC-V转型
MIPS在2018年从MIPS ISA转向RISC-V。有两种方法可以过渡到RISC-V,Wasson说:在你的ISA之上构建一个转换器(需要六个月时间)或完全过渡(需要六年时间)。MIPS选择了后者。
“[过渡到RISC-V]绝对是正确的决定,”Wasson说。“专有架构存在是因为历史原因,而且因为硬件工程师统治着半导体世界。但我们的客户是软件工程师。我们希望满足我们的客户基础,简单明了。”
RISC-V带来了标准化的好处,同时允许足够的差异化实现,使MIPS能够保持其“MIPSiness”,Wasson辩称。
“市场上缺乏教育,因为RISC-V的营销方式,”Wasson指出大多数人认为RISC-V是潜在的Arm杀手。“这个故事对媒体和投资者群体很有吸引力,但我认为你这样说会限制它的潜力。RISC-V的潜力要大得多,如果你考虑RISC-V可以从系统角度做什么。”
RISC-V可以在提供同质ISA的同时保持系统的异质性,他说。
“如果你想让系统重视数据处理,你可以,”他说。“如果你想让它重视信号处理,你可以。如果你想让它重视定制加速,你可以。所以从软件角度来看,想象一下你带来的简单性。”
今天的SoC可能有一个Arm核心,一个DSP和一个定制加速器——所有这些都是不同的ISA——给软件开发者带来了多个编译器。RISC-V可以减少这种复杂性,并最终降低成本。
“根据我们在客户方面看到的情况,人们开始使用RISC-V来解决SoC上的几乎每个问题,”他说。“这将带来下一轮创新,即简化你的软件栈,并专注于真正的问题,而不是试图管理多个栈。”
虽然Wasson不认为Arm会消失,但RISC-V最终将取代许多专有ISA,因为客户想要标准架构和标准工具。
现有的MIPS客户需要为新的MIPS RISC-V核心重新编译,但Wasson表示,由于公司有目的的设计决策,过渡应该是顺利的。
“软件是为机器定义的,它是多线程的,缓存一致的,等等,”他说。“当我们从MIPS ISA过渡到RISC-V ISA时,我们没有过渡到一个通用核心,我们保持了MIPSiness。在某些情况下,甚至内存映射都是完全相同的,客户多年来编写和维护的应用代码或固件几乎不需要更改。”
客户的痛点更多的是从Arm迁移到RISC-V,他说,尽管他预计长期(在未来7-10年内)从Arm迁移的客户只占其客户基础的三分之一。其余的将是解决新问题和新兴问题的人。
应用重点
保持MIPSiness的一部分是保持公司的强大应用重点。对于AI数据移动,MIPS的重点是定制AI在数据中心的解决方案,以及ADAS和AV。
这些细分市场包括数据中心的数据移动(用于DPU、内存、存储和新兴的GPU/加速器领域)和汽车应用,包括软件定义车辆、电动汽车和ADAS等延迟关键应用。
“了解这些应用导向的东西,这将使我们能够与专有架构竞争,因为坦白说,这就是你会找到它们的地方。”Wasson说。
Wasson的计划是将MIPS的重点限制在几个关键应用上,并坚持做IP公司,没有计划成为芯片供应商。
“在这里,作为一家IP公司是有帮助的,”他说。“如果你专注于你的优势和某些应用,你仍然会找到大量想要构建这种技术的人,因为你将服务于许多SoC和许多系统。所以你的TAM会增加,因为你是一家IP公司。”
2018年,MIPS被Wave Computing收购,后者是首批AI芯片初创公司之一,但最终破产。MIPS在Wave内部被视为一个独立的业务单元,继续繁荣发展。公司保留了Wave的IP——Wasson有计划在近期提供AI加速器IP核心吗?
“一次只做一件事!”Wasson笑着说。