AI智算时代,我们需要什么样的存储?

发布时间:2024-07-25 11:38  

引言

全球AI领域迎来了前所未有的变革,算力已成为制胜未来的利剑。然而,在摩尔定律的脚步放缓,数据量却以几何级数膨胀的当下,如何突破存储的桎梏,成为了摆在时代面前的一道难题。

自2023年以来,以ChatCPT、Sora为代表的AIGC大模型横空出世,引发了全球范围的AI热潮,对算力的需求达到前所未有的紧迫性。

算力是AI发展的基础设施,AI训练需要将数据集进行重复多轮处理,算力的规模直接决定了数据处理的效率和能力。据OpenAI测算,2012年开始,全球AI训练所用的计算量暴增,平均每3.43个月便会翻一倍,目前计算量已扩大30万倍,远超算力增长速度。

在AI浪潮中占据优势,必须拥有强大的AI算力支撑。智算中心,作为AI算力的核心基础设施,逐渐成为人们关注的焦点,并成为行业重点建设的对象。据不完全统计,目前全国正在建设或提出建设智算中心的城市已经超过30个,建设总数超过100个,投资规模超百亿元。

如果说算力是智算时代的“引擎”,那么数据便是新时代的“石油”。

进入AI智算时代,数据量呈现“指数级”增长。IDC预测,生成式AI对于数据量的增长是长期且持续的,全球2024年将生成159.2ZB(1ZB=1万亿GB)数据,2028年将增加一倍以上,达到384.6ZB,复合增长率为24.4%。

无论是数据中心还是智算中心,数据驱动应用成为主要发展趋势。数据处理主要关注的资源成本为CPU、内存与存储、网络及功耗,关注的性能为延迟、带宽及服务质量。其中,功耗指标受到的关注大幅增长。

然而,随着需求的水涨船高,一系列瓶颈问题浮出水面。一方面,传统冯诺依曼架构要求数据必须加载到内存中,导致数据处理效率低、延迟大、功耗高;另一方面,存储器墙问题使得处理器性能的增长速度远快于内存速度,造成大量数据需要在SSD和内存间传递;此外,CPU挂载的SSD容量和带宽限制也成为性能瓶颈。

面对“存储墙”、“功耗墙”等问题,传统计算体系结构中计算存储架构亟需升级,将存储与计算有机融合,以其巨大的能效比提升潜力,才能匹配智算时代巨量数据存储需求。

STAR2000.png
忆芯科技自主研发高性能企业级SSD存算一体化主控芯片STAR2000,首次实现了真实“存算一体”,将存内计算、存储控制、边缘计算和人工智能应用加速归集在单一芯片上加以实现,以此面向企业级市场提供了极具功效比优势的SSD产品,以应对AI时代存储日益复杂和多样化的挑战。

STAR2000-2.png
近日,忆芯科技携搭载STAR2000的高端企业级SSD系列产品亮相第二十六届中国北京国际科技产业博览会,凭借高能效比、高性能、高安全性、高可靠性等核心优势,吸引了广泛关注。

可计算存储技术

总体拥有成本降低

忆芯企业级SSD支持可计算存储,在数据的存储端就近进行高速计算,削减数据在CPU、GPU、内存和SSD之间移动的高昂成本,从而提高数据处理速度和效率,留出宝贵的CPU内核供其他任务使用。这一效率提升带来了更优的总体拥有成本,并减少了额外处理器或服务器的需求。

高算效比设计

数据处理效率飙升

忆芯企业级SSD产品以高算效比设计,支持AI算法存内计算与数据库存算数据一致性加速调度,实际算效比超12TOPS/W,提供强大的智能业务计算保障。在人工智能计算应用的全流程中,实现了AI资源和数据分类、AI数据处理索引检索加速、AI聚类加速、特征比对加速、硬件智能认证区分、数据流调度及计算存储可信度量等多重功能。

高性能、高可靠、高安全

满足智算时代需求

忆芯企业级SSD产品在服务质量、延迟、安全、兼容性、容错纠错等方面表现优秀。其中,STAR2000E系列产品能够提供强大的稳态顺序读写和随机读写性能,最高顺序读写可分别达7.2GB/s、6.8GB/s,随机读写性能最高可达1750K IOPS和700K IOPS,具有业界领先的忆芯第4代LDPC纠错算法,同时支持3DWPD和1DWPD的耐久性,充分保证数据的可靠性。同时提供高达32TB的单盘容量可选,满足智算中心对海量数据高效存储的需求。

AI智算时代,存储面临前所未有的挑战和机遇。

未来的存储技术需要针对海量数据应用场景,提高数据处理效率,降低功耗等使用成本,同时在容量、性能、可靠性、安全性和效益之间找到最佳平衡。

以忆芯科技企业级SSD为代表的智慧存储解决方案,将为AI的发展提供坚实基础,推动AI在各领域的深度应用。

文章来源于:ECCN    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>