UPMEM 选择 Semidynamics RISC-V AI IP 用于大型语言模型应用

发布时间:2024-12-10 10:08  

高性能人工智能 RISC-V 处理器的领先 IP 公司 Semidynamics 很高兴地宣布,UPMEM 已选择 Semidynamics 作为其下一代 LPDDR5X Processing In Memory 器件的核心供应商。

1 (2).png
标准 RISC-V 架构集成了张量单元和名为 Gazillion 的长延迟数据访问优化器,可以无缝高效地集成任何人工智能或 LLM 模型。巨大的内部带宽(102.4GB/s)、低能耗数据访问(1pJ/bit)和强大的处理能力(8 TFLOPs FP16/BF16、16 TOPs int8)将使单芯片的模型推理达到行业最佳性能和能耗水平。

UPMEM首席执行官Gilles Hamou表示:"SemiDynamics GenAI计算IP结合了我们颠覆性的移动内存处理DRAM芯片所需的功率和效率。我们也非常欣赏他们使用RISC-V架构以及参与RISC-V生态系统。我们的组合技术提供了唯一的解决方案,其功能足够强大,能耗和成本效益足够高,可以在智能手机上计算大多数生成式人工智能计算。”

Semidynamics 首席执行官 Roger Espasa 补充说:"我们很高兴能与 UPMEM 合作,并支持他们的内存处理方法。这是实现大型语言人工智能模型部署的一种极具创新性的方法,我们期待与UPMEM建立长期的合作伙伴关系。

UPMEN www.upmem.com

UPMEM是一家开创性的无晶圆厂半导体公司,是内存处理(PIM)解决方案的领导者。通过将协处理器集成到主 DRAM 内存中,UPMEM 加快了生成式人工智能等数据密集型操作的速度。UPMEM为大型语言模型(LLM)推理开发了新一代PIM芯片,使小型到大型模型(如LLama和Mistral)都能在智能手机上本地运行,每秒处理的查询次数比领先的SoC多15倍,能耗却低10倍。UPMEM的PIM芯片是唯一能够在满足智能手机电池寿命和成本限制的同时进行密集型GenAI计算的解决方案。UPMEM 总部位于法国格勒诺布尔,这里是领先的微电子和技术创新中心,UPMEM 与全球行业领先企业建立了合作伙伴关系。

Semidynamics www.semidynamics.com

Semidynamics® 成立于 2016 年,总部位于西班牙巴塞罗那,是唯一一家可完全定制的 RISC-V 处理器 IP 提供商,专注于针对机器学习和人工智能应用的高带宽、高性能内核,包括矢量单元和张量单元。该公司为私营企业,是 RISC-V 联盟的战略成员。

文章来源于:ECCN    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    有两种形式:汇编语言和高级语言。   汇编语言的实质和机器语言是相同的,都是直接对硬件操作,只不过指令采用了英文缩写的标识符,更容易识别和记忆。它同......
    C51都有自已的编译器。具体区别是由编译器决的,只能参考对应的编译手册,即使同种平台不同的编译器对C的扩展也有不同。 4、C只是一种高级语言。它除具有一般高级语言的功能特性外,它可......
    汇编和C语言相结合的51单片机编程技巧;  本文主要是关于汇编和C语言的相关介绍,并着重对汇编和C语言的不同及其编程技巧进行了详尽的阐述。   汇编和C语言   C语言和汇编语言的区别......
    又出现了像是C、C++、Java的这种高级语言,因此计算机语言一般分为低级语言和高级语言。 使用高级语言编写的程序,经过编译转换成机器语言后才能运行,而汇编语言经过汇编器才能转换为机器语言。 06. 汇编语言......
    控制器通常采用脉冲输出或方向输出等方式进行控制,而PLC通常采用开关量输入和输出进行控制。 编程语言不同:运动控制器通常使用C或C++等高级语言进行编程,而PLC通常使用Ladder Diagram(梯形图)等低级语言......
    阅产品目录手册。 3.简化的程序结构:PLC的程序结构通常很简单,典型的为块式结构,不同块完成不同的功能,使程序的调试者对整个程序的控制功能和控制顺序有清晰的概念。 4.简化应用软件生成过程:使用汇编语言和高级语言......
    五种支持plc编程的语言有哪些;PLC的软件编程语言与一般计算机语言相比,具有明显的特点,它既不同于高级语言,也不同于一般的汇编语言,且要满足易于编写和调试的要求。 早期的PLC仅支持梯形图编程语言和指令表编程语言......
    的目标代码的效率之高, 多数语句生成的汇编代码很紧凑,容易理解。在开发大型软件时更能体现高级语言的优势。 Keil的版本目前是 V7 版本,他是很优秀的 8051C 编译器。 安装 Keil C51 对系......
    ,程序按照指定的顺序执行,没有跳转语句和循环语句。   2. 低级别:PLC指令表编程语言不像高级语言那样有较高的抽象层次和复杂的语法结构,它的......
    大家有筛选能力的话,大家可以选择适合自己的课程来学习。 但是单片机的C语言和我们平常讲的C语言还是有一定的区别的。 C语言是基于计算机(电脑)平台开发的一种语言,可以开发很多的应用软件,但单片机C语言的......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>