“让芯片通过学习的过程而使得算法和软件自动演进,如此一来,所需功能的芯片自动就有了。”这到底属于怎样的智慧芯片?我有一个梦想,“让芯片通过学习的过程而使得算法和软件自动演进,如此一来,所需功能的芯片自动就有了。”
与此相反的一个状况是,“当芯片设计人员用6个月来思考定义,头脑风暴许久只为与别人做出不一样的芯片。再到市场阶段早已过去两三年,突然发现做出的芯片没有市场。”
以上构想和惨况不是我凭空想来,是在前几日在Cadence 2019年度CDNLive大会上,清华大学教授魏少军博士在做主题为“软件定义芯片”演讲时所说。后者更接近现状,而前者却成了芯片从业人员或者科研人员的梦想。
遥不可及吗?不见得。
今年的CDNLive将目光瞄上了智能二字,主题设为“智能系统设计” (Intelligent System Design),主论坛的演讲嘉宾分别是Cadence公司总裁Anirudh Devgan、清华大学教授魏少军,以及人工智能独角兽依图科技创始人、CEO朱珑出席了大会,阵容上囊括了产业与学术界。
三位大咖的演讲横穿智慧芯片的过去现在和未来,让笔者顿觉,在芯片的最前方似乎有一座乌托邦,不用“扬鞭”,便能“自奋蹄”。这到底是怎样的愿景?背后又藏着怎样的生意?
为什么要智能芯片?
“机器学习/深度学习、自动化、更卓越的设计能力、5G和边缘计算等概念的推动下,使得汽车、工业、医疗等各行业都在经历空前的数字化转型,并促进了针对其特定应用需求而优化的定制系统和SoC的开发。” Anirudh Devgan这句话从当下现状来剖析智慧化势不可挡:“我们已进入智能系统设计时代。”
Cadence公司总裁Anirudh Devgan
魏少军教授和朱珑同时认为这是一场“算法、数据、算力(芯片)”大爆炸的结果,魏少军表示,自上世纪80年代人工智能诞生的惊喜开始,不仅成就了David hunter的诺贝尔奖荣誉,也为人们打开了另一个智能世界。
清华大学教授魏少军
“神经元比作节点、突触比作连接线,组成一个人工神经网络。神经元通过突触进行通信,而突触的权重决定是否能够通信。如此一来,任何神经元就是一堆数据,加权重,再到下一级。这是一种全新的计算方式”,魏少军如此形容如今大伙的神经网络,也表达了背后关于数据量的变化:“处理人工神经网络需要的数据量是惊人的,VGG19模型就达到196亿每秒浮点运算次数。(如下图右侧柱状图)”
图源现场拍摄(魏少军演讲PPT)
朱珑表示:“信息时代在过去30年里,算法、算力、数据都提升百万倍。但在智能时代仅仅过去5年里,在算法上提升百万倍、算力提升十万倍、数据提升万倍。”这里的分界点是阿法狗出来那一刻,如今那个机器,在算法上又提升了一百万倍。
依图科技创始人、CEO朱珑
同时这也是一个算法不断迭代演进的年代。魏少军认为,“算法每6个月或者3个月就要变一次,一个算法对应一个应用,没有通用的算法对我们硬件(芯片)来说是灾难性的。”
要应对这场“灾难”,显然需要本文开头构想的场景——“让芯片通过学习的过程而使得算法和软件自动演进”。
到底有多难和怎么做?
“计算量足够大,能量效率还要足够高,这之间很难平衡。从现在以T为单位的计算量来看,几乎是要在单芯片上实现超算,本来我们想象在5nm/10nm才有所需求,人工神经网让芯片早就达到了超算能力。”魏少军如此说道,他眼中的智慧芯片需要具备至少以下8个特点。
1,可编程性,适应算法不断变化;
2,改变架构,来适应算法 获得最佳计算效率;
3,非常好的架构变换能力;
4,很高的计算效率,用指令肯定不行;
5,很高的能量效率;
6,低成本;
7,体积小;
8,简单,开发应用要简单。只需软件工程师会编程即可。
随后魏少军补充道:“如今的CPU、CPU+GPU、CPU+FPGA、CPU+ASIC统统不是理想的架构。”
至此,魏少军认为“软件定义芯片”才是最佳做法。其概念是就是将分块软件/程序不断送到数据通道,使芯片能实时地根据软件或产品的需求改变功能,实现更加灵活的芯片设计。在去年美国国防部先进计划署(DARPA)推动的电子产业振兴计划(ERI),其中一个课题就是软件定义硬件的概念。
当然,当下软件定义芯片架构并没有逃开冯·诺依曼架构,可以看出该架构在计算完备性上是有理论基础的。
魏少军提出了“AI芯片设计路线图”,(如下)AI芯片0.5代表最早的如英特尔CPU、英伟达GPU一类芯片,用传统芯片实现人工智能。
图源现场拍摄:图横轴表示算法,纵轴表示架构
1.0时代则包括TPU等,追求性能同时追求低功耗。1.5时代则包括DPU Thinker等,不仅要可重构,还要追求能量效率和灵活性。2.0时代,则包括了前面所有有点。魏少军认为AI芯片2.0才是真正的智慧,但还没有出现。
不同于魏少军所表达的宏观概念,Anirudh Devgan和朱珑聚焦在了市场上,前者关注EDA智能系统设计,后者关注视觉方面的AI芯片。
Cadence公司副总裁,中国及东南亚地区总经理徐昀女士表示,2019年是公司特殊的一年,正式踏入了系统设计、系统分析领域,旨在帮助用户在日常开发中实现更多智能化。
这里的智能系统设计策略就是Anirudh Devgan所说的:“以技术(计算)软件为核心能力,包括引用AI和算法优化设计工具、扩展到新系统领域、以及执行核心EDA和IP。”
此外,为了优化设计方案,Cadence 提出了 Machine Learning 与 EDA 相互融合的理念,并在中国IC设计市场带来了全新的思路,如下:
(1)ML Inside:通过最新的机器学习引擎,改善数字设计工具,带来更好的PPA。通过对过往的大数据分析和决策,来加速未来的智能版图设计。
(2)ML Outside:自动化的设计流程,提升整个设计的生产效率。
(3)ML Enablement:软件和硬件的协同设计,以及 Cadence 独有的 Tensilica 处理器 IP,应用机器学习为系统级的优化带来提升。
AI芯片公司的突破口
本来前面部分已经可以结束“智慧芯片”这一话题,但依图CEO朱珑的演讲像是一针鸡血扎入我大动脉。鸡血之下其实也阐述了关于国内AI芯片的活法。
朱珑感叹做AI芯片实在太难了,做AI的人不懂芯片,做芯片的人不懂AI。总结三句话:“1,没有典型场景应用没有意义;2,没有超越NVIDIA的芯片没有意义;3,没有世界级的算法没有意义。”
本来AI芯片的企业活着就不容易,还要和世界顶尖芯片厂较劲?干不过就没有意义。按照朱珑的说法,还有几家芯片公司有意义?
超越的方法被朱珑浓缩为两个字——理念。
“如果能猜对重要的场景,并猜对重要的算法,来应对架构本身的不确定性。那就大有可为。” 依图的思路放在了视频视觉处理上,实现“用1个机柜支撑1万路摄像头的全解析,让能耗、成本和空间都获得大幅度的减低和压缩。” 在演讲中可以看出,朱珑所“猜”的场景是智慧城市。
如此一来,让笔者越发觉得芯片这行太难了,前方乌托邦式的“智慧芯片”,再加完美的应用场景,设计工具本身就要兼具智能系统。外加人才、资本、政策协助,才是一个完整的芯片升级之道。