铨兴科技秉承“特色先进封装,高端存储制造”的企业定位,已深耕存储产业二十八载,不仅已构建涵盖消费级、工规级、车规级、企业级在内的完整存储产品线,而且凭借卓越的研发实力与产业资源,联合群联电子共同推出存算一体的解决方案,显著降低了大模型训练的门槛,使本地端专属AI应用唾手可得!
6月19日,铨兴科技将在TSS2024集邦咨询半导体产业高层论坛期间,举办以《开启“铨”民AI时代的存算一体解决方案》为主题的发布会,届时将隆重展出搭载铨兴添翼AI扩容卡、企业级固态硬盘、服务器内存等核心组件的AI训练服务器。是国内首款只用四张显卡轻松实现70B算力的低成本、低能耗、安全及平民化的AI训练服务器解决方案。我们诚挚邀请各界专家莅临现场参观指导,共同研讨全民AI时代的发展趋势与应用前景。
铨兴AI训练服务器推荐配置介绍
创新的铨兴添翼AI扩容卡
铨兴添翼AI扩容卡透过中间层驱动优化,搭配不禁售的显卡,创新实现扩展GPU内存容量,具备高速,高稳定性,高寿命等特性,可为GPU暴增 10~20倍的运算容量。轻松实现70B及以上算力。
卓越的铨兴DDR4-RDIMM
QUANXING铨兴DDR4 R-DIMM(ECC Registered DIMM)服务器内存模组符合JEDEC协会标准,内设可监控内存模组温度的温度传感器(Thermal Sensor),并支持ECC错误修正与监测功能。同时,全系列产品选用原厂工规级DRAM IC,经过严格测试,确保产品具有高兼容性及高稳定性。
卓越的铨兴 SATA/PCIE ESSD
铨兴企业级固态硬盘系列拥有高规格数据保护机制,在高速混合读写过程中表现卓越的可靠性、安全性和耐久性;高宽带,低延迟,更高顺序读写速度;独有的智能算法,打造优异稳态的QoS;端到端数据保护机制,数据完整保护提高可靠性;兼容最新OCP spec Telemetry标准,高效的故障分析定位能力。
铨兴添翼AI解决方案优势显著
QX AI大模型训练解决方案凭借低成本、易操作的显著特点,为广泛用户群体提供了实现AI自由的契机,让更多人能够在实际工作与生活中切实感受到AI带来的便利与益处。
突破性的存算解决方案
铨兴添翼AI扩容卡功能新颖卓越,通过创新手段成功实现了GPU内存容量的扩展,效果显著惊人,创新的存算解决方案使用的是不禁售显卡,解决了购买难、高投入成本的痛点。以实现70B高算力的大模型训练为例,仅用4张不禁售的中阶显卡搭配2张铨兴添翼AI扩容卡就能实现如此高算力的大模型训练效果,完美的展现了出色的技术实力和超前沿的存算解决方案。
显著降低配置成本、能耗低
铨兴添翼AI解决方案所推荐的整机配置,在能耗控制方面表现出色,其整体运算能耗控制不到2KW,显著降低了用电成本。在配置成本方面,4张中阶不禁售的GPU显卡的整机配置(以70B大模型训练为例),总成本不到20万元,相较于传统方案节省了超过85%。
适配场景灵活多样
除了在低成本和低能耗方面具有显著优势外,铨兴添翼AI解决方案更以其卓越的不受大模型尺寸限制的特性(7B-180B)脱颖而出。无论面对何种规模的模型,该方案均能够展现出强大的适应性和应对能力,为用户带来灵活多样的AI训练服务,广泛满足不同行业和场景的需求,展现其强大的应用潜力和价值。
保护数据隐私与安全
铨兴添翼AI解决方案作为一款软硬件结合的先进大语言模型(LLM)微调训练方案,致力于助力中小企业处理敏感机器学习(ML)数据,同时确保本地控制权的稳固保持。该方案能够有效杜绝数据外泄的可能性,从而显著提升数据安全保障水平,有力防范外部入侵与资料泄露等潜在风险。
应用场景广泛
铨兴添翼AI解决方案可根据企业和个人的自身需求进行灵活配置和扩展。可广泛应用于金融、医疗、教育、制造行业、软件开发、网络安全等使用场景。
人工智能(AI)正以其独特的魅力和强大的潜力引领着新一轮的科技革命,铨兴科技作为行业领先的半导体存储方案解决商和AI服务器的引领者,群联电子作为闪存控制芯片以及储存解决方案的市场领导者,双方将强强联合,以卓越的技术实力和创新精神积极探索人工智能技术在半导体存储领域的应用,推出更多具有创新性和实用性的半导体存储产品,进一步加强与AI技术领域的合作与交流,共同推进AI技术的创新和发展!
AI运行需要大量的计算资源以进行模型训练与推理,这一过程中要用到高性能计算芯片包括GPU(图形处理器)、ASIC(应用专用集成电路)、人工智能专用芯片,还有HBM等存储器芯片。随着AI大模型持续火热,相关应用不断普及,AI正成为全球半导体产业主要推动力。
6月19日(周三),TrendForce集邦咨询将在深圳福田隆重举办“2024集邦咨询半导体产业高层论坛(TrendForce Semiconductor Seminar 2024)”。
届时,集邦咨询资深分析师团队将发表主题演讲,全方位探讨半导体以及存储器产业现状与未来,并为业界高层提供前瞻性战略规划思考与现场深度交流平台,敬请期待!
封面图片来源:拍信网