多年来,一直是一个不太活跃的市场。占主导地位的x86微处理器架构已经达到了通过小型化可以实现的性能增益的极限,因此制造商主要关注将更多的内核封装到芯片中。
对于快速发展的机器学习和深度学习来说,GPU就是救星。GPU最初是为图形处理设计的,它可以有数千个小内核,非常适合AI训练所需的并行处理能力。
的本质是得益于并行处理,大约10年前,人们发现,设计用于在屏幕上显示像素的GPU很适合这一点,因为它们是并行处理引擎,可以在其中放入很多核心。
这对英伟达公司来说是个好消息,该企业的市值从2015年的不到180亿美元飙升至去年市场收缩之前的7350亿美元。直到最近,该企业还几乎独揽了整个市场。但许多竞争对手正试图改变这种局面。
在人工智能工作负载方面,到目前为止主要是英伟达的GPU,但用户正在寻找可以将其提升到新水平的技术,随着高性能计算和AI工作负载的不断融合,我们将会看到更多种类的加速器出现。
大型芯片制造商并没有停滞不前。三年前,英特尔收购了以色列芯片制造商哈瓦那实验室,并让这家企业成为其人工智能开发工作的重点。
哈瓦那去年春天推出的Gaudi2训练优化处理器和Greco推理处理器,据称速度至少是英伟达旗舰处理器A100的两倍。
今年3月,英伟达推出了拥有800亿个晶体管的H100加速器GPU,并支持该公司的高速NVLink互连。它具有一个专用引擎,与上一代相比,它可以将自然语言处理中,使用的基于Transformer的模型的执行速度提高六倍。最近使用MLPerf基准的测试显示,在大多数深度学习测试中,H100优于Gaudi2。英伟达也被认为在其软件堆栈中具有优势。
随着互联网的兴起和发展,带动了新一轮的科技创新,自动化生产、机器人技术、信息技术等得到长足发展,并逐渐影响着人们的衣食住行。 世界主要发达国家也已经把发展人工智能上升到国家的战略。
2011年,美国制定了《国家机器人计划》以“建立美国在下一代机器人技术及应用方面的领先地位”。
2013年,美国白宫成立人工智能和机器学习委员会,负责协调全美各界在人工智能领域的行动,探讨制定人工智能相关政策和法律;2016年10月又连续发布《为人工智能的未来做好准备》和《国家人工智能研究和发展战略规划》两份报告,将人工智能上升到国家战略层面;2017年,制定了《国家机器人计划2.0》,决定划拨专项资金支持机器人科学与技术基础研究;同年还发布了《人工智能与国家安全》和《人工智能未来法案》保证美国的人工智能技术的领先,并从政策上保证人工智能技术的发展;2018年,白宫召开“人工智能峰会”,意在推动机器人、算法和人工智能技术的快速部署。
2019年,美国总统特朗普签署“美国人工智能倡议”行政命令,确保美国在人工智能相关领域保持研发优势。
在数字计算机中,当运行人工智能算法时浪费的大量能量是由一个简单而普遍存在的设计缺陷造成的,它使每一次计算都变得低效。通常情况下,计算机的内存,即保存计算过程中的数据和数值,被放置在远离处理器的主板上,而处理器是进行计算的地方。
最近从斯坦福转到了物联网( (AIoT) )公司Aizip的万伟尔解释说,对于流经处理器的信息来说,"这有点像你花了8个小时的通勤时间,但你却做了2个小时的工作。"
用新的一体式芯片来解决这个问题,把内存和计算放在同一个地方,方式很直接。它也更接近我们的大脑可能处理信息的方式,许多神经科学家认为我们大脑的计算是发生在神经元群中,而记忆是在神经元之间的突触加强或减弱其连接时形成的。但问题是:开发这种设备绝非易事,因为目前的记忆形式与处理器中的技术不兼容。
几十年前,计算机科学家们开发了这种创造新芯片的材料,这些芯片在存储内存的地方进行计算,这种技术被称为内存计算(compute-in-memory)。鉴于传统的数字计算机性能还非常好,这些想法几十年来被忽视了。
1964年,斯坦福大学的研究人员发现他们可以操纵某些被称为金属氧化物的材料,以打开和关闭其导电能力。这很重要,因为材料在两种状态之间切换的能力为传统的记忆存储提供了支柱。通常,在数字存储器中,高电压状态对应于1,而低电压对应于0。