燧原科技宣布升级企业战略——全面打造AIGC时代的基础设施

发布时间:2023-08-07  

宣布升级企业战略:以全栈软硬件和集群产品为数字底座,结合MaaS (Model as a Service) 的业务模式,全面打造技术生成内容 (AIGC) 时代的基础设施。

本文引用地址:



   一、燧原大模型技术与产品深耕已久



  自创业之初就瞄准云端训练产品市场,以突破高难度训练芯片为目标,2019年推出的第一代产品云燧T10/T11是国内第一款具备FP32高精度算力的训练产品。其创新的片间高速互联,以及软件栈聚焦优化数据并行与模型并行等大规模集群的训练能力,奠定了今天燧原的训练产品在国内大规模集群训练场景的领先优势。



  基于云燧T11的冷板式液冷方案,为之江实验室构建了超千卡规模AI液冷集群,以赋能文本到视频生成的场景为目标,成功支持了GPT-2、源1.0及实验室自研蛋白质结构预测等多个超大规模巨量模型的高效训练。液冷智算集群也顺应国家的绿色低碳环保的要求,PUE经实测最低可降至1.08。



  历经五年的产品迭代和优化,燧原科技现已拥有从硬件、软件到系统的全栈解决方案,结合云燧训练和推理产品在行业落地打磨的实践经验,可为客户提供丰富多样的系统软硬件产品,全方位降低AI算力中心部署和应用成本。



  二、厚积薄发,燧原科技发力



  在大模型标杆项目落地经验指引下,以大幅缩短大模型开发与应用周期为目标,针对大模型场景下的算力需求特性,燧原科技现已针对大模型场景形成从硬件、软件、系统方案的全栈技术,全面支持大模型生产,包括但不仅限于:



  大模型现有生态接入:支持PyTorch、TensorFlow、PaddlePaddle、OneFlow、Megatron-LM、FairScale等主流AI框架和分布式加速库,支持GPT-2、源1.0、悟道2.0、CPM等主流AIGC大模型的Pretrain和Finetune。



  大模型极致性能提供:采用自主研发的GCU-LARE技术和ECCL分布式通信技术,提升大模型训练多机多卡高速互联的性能,支持数据并行、模型并行、流水线并行和混合并行等并行加速功能,支持Activation Checkpointing、ZeRO优化器、CPU offload、AMP(自动混合精度)等算力和显存优化方法,可快速高效地进行大模型训练。



  大模型训练TCO优化:从大模型应用端到端、技术全栈角度,燧原科技提供一体化大规模AI算力集群方案 云燧智算机(CloudBlazer POD),方案采用一体化设计,是专为场景下计算、存储、网络、软硬协同设计的标准化产品,以"全局优异"为目标,大幅降低建设满足大模型场景需求的AI算力基础设施的总拥有成本 (TCO)。



  大模型业务高性价比推理加速:凭借云端推理产品云燧i20通过互联网社交应用服务上亿规模用户的成功经验,同时与广泛的落地场景进行打磨,燧原的推理产品在支持Stable Diffusion、GPT-2、T5等AIGC大模型推理上具备高性价比,加速AIGC相关下游场景的商业落地。



燧原科技大模型全栈技术



  燧原科技创始人、COO张亚林表示:"人工智能技术的发展正在步入一个全新的阶段,AIGC内容生成类模型以及所生产的内容生动反映了人工智能从感知、认知进阶到生产,也正在重构互联网商业模式,催生数字经济新突破。在以ChatGPT和Stable Diffusion为代表的AIGC技术浪潮下,燧原科技凭借在大模型训练及推理的产品技术优势,结合MaaS的业务模式,构建AIGC时代的基础设施底座。"



  关于燧原科技



  燧原科技专注人工智能领域云端算力产品,致力为人工智能产业发展交付普惠的基础设施解决方案,提供原始创新、全栈自研、具备完全自主知识产权的通用人工智能训练和推理产品。凭借其高算力、高能效比以及灵活编程能力,可广泛应用于互联网、金融、交通、能源及新基建等多个行业和场景。



  燧原科技携手业内标准组织,秉承开源开放的宗旨,与产业伙伴一起促进人工智能产业发展。


文章来源于:电子产品世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>