阿里创新神经网络硬件架构,论文入选国际顶会ISCA 2022

发布时间:2022-06-23  

ISCA、MICRO、HPCA并称为体系结构领域三大顶级会议,ISCA创办于1973年,见证了诸多突破性成果的首次亮相,包括谷歌、英特尔、英伟达等企业在半导体领域的多项技术创新。官方信息显示,ISCA论文录取率常年低于20%。近两年,阿里巴巴已有多个成果在该会议亮相,是ISCA历史上论文入选最多的中国企业。

本次入选的达摩院论文,致力于解决图神经网络硬件的问题。图神经网络是人工智能领域的热门技术之一,可应用于蛋白质结构预测、分子制药、推荐系统、金融风控等领域。大规模图神经网络的处理,对存储规模、通信时延的要求更高,如果仅靠传统硬件处理,效率低下。

ISCA、MICRO、HPCA并称为体系结构领域三大顶级会议,ISCA创办于1973年,见证了诸多突破性成果的首次亮相,包括谷歌、英特尔、英伟达等企业在半导体领域的多项技术创新。官方信息显示,ISCA论文录取率常年低于20%。近两年,阿里巴巴已有多个成果在该会议亮相,是ISCA历史上论文入选最多的中国企业。

本次入选的达摩院论文,致力于解决图神经网络硬件的问题。图神经网络是人工智能领域的热门技术之一,可应用于蛋白质结构预测、分子制药、推荐系统、金融风控等领域。大规模图神经网络的处理,对存储规模、通信时延的要求更高,如果仅靠传统硬件处理,效率低下。

广告

在该论文中,达摩院提出了一种新的硬件架构,可硬件卸载远端内存访问,提升并行度、减小延时。该架构以玄铁906处理器为控制核心,并辅以本地访存加速器Access Engine(AxE)以及远端访存加速器Memory-Over-Fabric(MoF)。该硬件系统高效地分担了传统CPU的部分任务,大幅减小访存延时,并增加了带宽利用率。

达摩院基于此架构实现了单机四卡FPGA的原型系统,并通过AliGraph软件部署到云端,根据测试,相比购买CPU服务,使用该原型系统的云上FPGA性价比提升约 2倍。

达摩院研究人员表示:“大规模图神经网络的应用越来越广阔,但业界主流加速方案多数仍局限于图数据量较小的场景,我们研发的硬件架构可有效解决大规模分布式图神经网络的硬件瓶颈。”

据介绍,2020年,阿里巴巴三篇论文入选ISCA,创造国内企业纪录,相关论文研究包括玄铁910处理器、存算一体芯片以及AI硬件基准测试等。

在该论文中,达摩院提出了一种新的硬件架构,可硬件卸载远端内存访问,提升并行度、减小延时。该架构以玄铁906处理器为控制核心,并辅以本地访存加速器Access Engine(AxE)以及远端访存加速器Memory-Over-Fabric(MoF)。该硬件系统高效地分担了传统CPU的部分任务,大幅减小访存延时,并增加了带宽利用率。

达摩院基于此架构实现了单机四卡FPGA的原型系统,并通过AliGraph软件部署到云端,根据测试,相比购买CPU服务,使用该原型系统的云上FPGA性价比提升约 2倍。

达摩院研究人员表示:“大规模图神经网络的应用越来越广阔,但业界主流加速方案多数仍局限于图数据量较小的场景,我们研发的硬件架构可有效解决大规模分布式图神经网络的硬件瓶颈。”

据介绍,2020年,阿里巴巴三篇论文入选ISCA,创造国内企业纪录,相关论文研究包括玄铁910处理器、存算一体芯片以及AI硬件基准测试等。

文章来源于:电子工程专辑    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    来自:Youtube)   收购之外,Tachyon 究竟是做什么的?   三星的这次收购旨在将 Tachyon 整合进它的移动业务事业部,以此提高其设备对于来自第三方软件的安全识别及使用,无论......
    工业自动化是做什么的 工业自动化技术应用;  工业自动化是做什么的   工业自动化是指利用先进的技术和设备,通过自动化、计算机技术及控制工程,对工厂、企业、生产流程和设备进行智能化、数字化、网络......
    线砍掉硬件集成业务并缩减相关人员。其中,混合云事业部部分团队裁员比例达到 30%。IoT 硬件集成业务裁员比例超 50%,该部门剩下的人员将被打散并至其他业务。同时,阿里云正扩大公共云事业部和 AI 部门......
    IoT(物联网)业务线砍掉硬件集成业务并缩减相关人员。 其中,混合云事业部部分团队裁员比例达到 30%。IoT 硬件集成业务裁员比例超 50%,该部门剩下的人员将被打散并至其他业务。同时,阿里云正扩大公共云事业部......
    就要从控制油泵的接触器说起,接触器是由线圈控制的,线圈会产生感应电动势,会串到控制电路中去。 解决的办法是如上图接触器所示,左边部分有一个可以拿下来的盖,重点就在这里,这个地方是用来做什么的。答案......
    IGBT驱动到底是做什么的?;我们都知道,电机驱动是IGBT的主要应用领域之一。有的同学可能会有这样的困惑: “IGBT本来就是驱动电机的,为什么它自己还需要一个驱动?IGBT驱动到底是做什么的......
    如何避免LCR表损坏;很多人都知道LCR表是用来做什么的,并了解lcr表种类和品牌也知道如何操作。但是,如何避免LCR表常见的故障,LCR手表如何安全操作呢?接下来,请听听西安安泰测试科普,希望......
    云回国的消息爆出后,业内人士爆料蚂蚁集团旗下支付宝事业群开启了近些年来最大幅度的高管调岗。 据悉,此次调整不仅涉及蚂蚁的多个部门,更牵扯到多位副总裁、资深总监的职务调整。除此之外,支付宝近期新组建了数字化产品事业部......
    单片机干嘛的?嵌入式是单片机吗?;我见过很多初学者,搞不清嵌入式开发是做什么的,学什么的,也搞不懂嵌入式和单片机的关系。 在网上找了很多资料,发现看的云里雾里,很多想入行的小伙伴本来还信心满满,看完......
    趣的同学可以去看。 而风口的走势在企业招聘上的体现,自然是一个从宽松到收紧的过程。 这就到了我们最后一个话题。 三、数字IC都有哪些岗位,这些岗位都是做什么的? 在芯片设计_IC设计_专业的集成电路资讯网站_芯学......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>