阿里创新神经网络硬件架构,论文入选国际顶会ISCA 2022

发布时间:2022-06-23  

ISCA、MICRO、HPCA并称为体系结构领域三大顶级会议,ISCA创办于1973年,见证了诸多突破性成果的首次亮相,包括谷歌、英特尔、英伟达等企业在半导体领域的多项技术创新。官方信息显示,ISCA论文录取率常年低于20%。近两年,阿里巴巴已有多个成果在该会议亮相,是ISCA历史上论文入选最多的中国企业。

本次入选的达摩院论文,致力于解决图神经网络硬件的问题。图神经网络是人工智能领域的热门技术之一,可应用于蛋白质结构预测、分子制药、推荐系统、金融风控等领域。大规模图神经网络的处理,对存储规模、通信时延的要求更高,如果仅靠传统硬件处理,效率低下。

ISCA、MICRO、HPCA并称为体系结构领域三大顶级会议,ISCA创办于1973年,见证了诸多突破性成果的首次亮相,包括谷歌、英特尔、英伟达等企业在半导体领域的多项技术创新。官方信息显示,ISCA论文录取率常年低于20%。近两年,阿里巴巴已有多个成果在该会议亮相,是ISCA历史上论文入选最多的中国企业。

本次入选的达摩院论文,致力于解决图神经网络硬件的问题。图神经网络是人工智能领域的热门技术之一,可应用于蛋白质结构预测、分子制药、推荐系统、金融风控等领域。大规模图神经网络的处理,对存储规模、通信时延的要求更高,如果仅靠传统硬件处理,效率低下。

广告

在该论文中,达摩院提出了一种新的硬件架构,可硬件卸载远端内存访问,提升并行度、减小延时。该架构以玄铁906处理器为控制核心,并辅以本地访存加速器Access Engine(AxE)以及远端访存加速器Memory-Over-Fabric(MoF)。该硬件系统高效地分担了传统CPU的部分任务,大幅减小访存延时,并增加了带宽利用率。

达摩院基于此架构实现了单机四卡FPGA的原型系统,并通过AliGraph软件部署到云端,根据测试,相比购买CPU服务,使用该原型系统的云上FPGA性价比提升约 2倍。

达摩院研究人员表示:“大规模图神经网络的应用越来越广阔,但业界主流加速方案多数仍局限于图数据量较小的场景,我们研发的硬件架构可有效解决大规模分布式图神经网络的硬件瓶颈。”

据介绍,2020年,阿里巴巴三篇论文入选ISCA,创造国内企业纪录,相关论文研究包括玄铁910处理器、存算一体芯片以及AI硬件基准测试等。

在该论文中,达摩院提出了一种新的硬件架构,可硬件卸载远端内存访问,提升并行度、减小延时。该架构以玄铁906处理器为控制核心,并辅以本地访存加速器Access Engine(AxE)以及远端访存加速器Memory-Over-Fabric(MoF)。该硬件系统高效地分担了传统CPU的部分任务,大幅减小访存延时,并增加了带宽利用率。

达摩院基于此架构实现了单机四卡FPGA的原型系统,并通过AliGraph软件部署到云端,根据测试,相比购买CPU服务,使用该原型系统的云上FPGA性价比提升约 2倍。

达摩院研究人员表示:“大规模图神经网络的应用越来越广阔,但业界主流加速方案多数仍局限于图数据量较小的场景,我们研发的硬件架构可有效解决大规模分布式图神经网络的硬件瓶颈。”

据介绍,2020年,阿里巴巴三篇论文入选ISCA,创造国内企业纪录,相关论文研究包括玄铁910处理器、存算一体芯片以及AI硬件基准测试等。

文章来源于:电子工程专辑    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>