近日,据媒体报道,硅谷人工智能(AI)芯片初创公司Etched表示,已在A轮融资中筹集1.2亿美元,该公司计划利用这笔资金进一步开发其专用AI芯片。
据报道,由哈佛辍学生Gavin Uberti和Chris Zhu于2022年创立的Etched,凭借其用于AI的ASIC芯片,从最底层的架构层面为主流AI大模型公司所采用的Transformer计算提供更优性价比的选择,在AI硬件领域引发了高度关注。
报道称,Etched开发了一款名为Sohu的专为Transformer模型设计的ASIC芯片。Etched声称,Sohu芯片推理Llama-3 70B的速度比英伟达的H100快20倍,比今年3月推出的顶配芯片B200快上超过10倍,且功耗却大大降低。
Sohu芯片减少了用于存储器的空间,而将更多空间用于计算用途的晶体管,并通过只有一个大内核的设计,减少了用来协调不同内核的低效计算。
Etched表示,公司聘请了先前曾在赛普拉斯、博通等半导体公司工作过的人才,芯片则交给台积电的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微软、OpenAI、Anthropic等大型科技公司所有的热门Transformer。
作为随着Transformer模型不断推动生成式AI突破,Sohu芯片被认为有望在AI推理侧打破英伟达GPU一家独大的格局,重塑AI计算的格局。
不过,据彭博社报道,Etched的Sohu芯片是执行Transformer这类AI演算法,一旦未来有另一种类型的演算法取代了Transformer AI,Sohu就会没用了。而英伟的GPU,例如H100是可以适用于任何AI演算法的。正如Gavin Uberti在接受采访时表示,“我们正在人工智能领域下最大的赌注”,“如果Transformer消失了,我们就会死。但如果它们继续存在,我们就是有史以来最大的公司。”