技术咨询
代买器件
商务客服
研发客服12月12日消息，据报道，在光学技术方面获得新进展，有望提升数据中心训练和运行生成式AI模型的效率。
推出了新一代光电共封装(CPO)工艺。该技术利用光学连接，实现了数据中心内部的光速数据传输，完美补充了现有的短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。最大限度地减少GPU停机时间，同时大幅加快AI工作速度。
具体而言，这一新技术带来了三大方面的显著优势：
首先，它极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比，光电共封装技术的能耗降低了五倍以上，同时，数据中心互连电缆的长度也从传统的1米扩展至数百米，进一步提升了数据中心的灵活性和扩展性。
其次，该技术显著提高了AI模型的训练速度。与传统的电线相比，使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着，原本需要三个月才能训练完成的标准大语言模型，现在仅需三周即可完成。对于更大的模型和更多的GPU，性能的提升将更为显著。
最后，光电共封装技术还显著提升了数据中心的能效。据估算，每训练一个AI模型所节省的电量，竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
文章来源于:21IC 原文链接
本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。
相关文章
国产GPU独角兽摩尔线程启动IPO，估值突破240亿(2024-11-13)
传媒表示，公司子公司浙江华数与摩尔线程于2022年签署了《战略合作框架协议》，据了解，目前浙江华数与摩尔线程未有具体业务合作。
随着大模型浪潮的兴起，算力资源日益紧缺，国产GPU的重要性日益凸显。摩尔线程并非今年唯一一家计划上市......
史上首个！阿里云AI基础设施获2024世界互联网大会领先科技奖(2024-11-20)
、65%的专精特新“小巨人”企业和60%的A股上市公司使用阿里云的算力服务。
在计算层，阿里云研发出全新的磐久AI服务器，单机支持16卡、显存1.5T，并创新AI算法预测GPU......
AI手机时代已来临 产业链企业正竞逐新赛道(2024-02-28)
。
存储芯片方面，北京君正、兆易创新、恒烁股份、江波龙、佰维存储等A股上市公司均有布局。其中，北京君正主要围绕智能摄像头端级产品的AI需求；而恒烁股份CiNOR存算......
国内多家GPU相关公司启动上市进程(2024-11-13)
国内多家GPU相关公司启动上市进程;11月13日消息，中国证监会官网信息显示，摩尔线程智能科技(北京)股份有限公司（以下简称“摩尔线程”）在北京证监局办理辅导备案登记，正式启动A股上市......
国产游戏GPU第一卡、唯一DX12！摩尔线程终于要上市(2024-11-13)
内极少数既覆盖图形渲染、又支持AI高性能计算的国产GPU公司，产品覆盖从云到端，为各行各业的数智化转型提供全栈计算支持，客户包括头部运营商、大型国有银行、大模型创业公司等。
摩尔......
海康威视：开源AI性能仍与专业模型有存在一定差距(2023-08-21)
海康威视：开源AI性能仍与专业模型有存在一定差距; 8月19日，海康威视发布最新财报，2023年上半年其实现营业总收入 375.71 亿元，比上年同期增长 0.84%;实现归属于上市公司......
至正股份拟收购AAMI99.97%股权，置入半导体引线框架业务(2024-10-24)
至正新材料100%股权，并募集配套资金。
根据《资产购买协议》，本次交易完成后，港股上市公司ASMPT的全资子公司ASMPT Holding将成为至正股份的第二大股东，持股......
AI龙头科大讯飞Q1净亏3亿元，下半年对标GPT-4V(2024-04-23)
讯飞全年实现营收196.5亿元，较去年同期增长4.41%；归属于上市公司股东的净利润6.57亿元，同比增长17.12%；扣除非经常性损益后净利润1.18亿元，同比减少71.74%。
在讯飞星火大模型......
周鸿祎：大家对AI的膜拜不切实际，有人找我做养猪大模型！(2023-12-12)
周鸿祎：大家对AI的膜拜不切实际，有人找我做养猪大模型！;
业内消息，近日在2023中国企业领袖年会上，创始人周鸿祎对于最近的大模型热潮发表了看法。他认为大家对大模型......
比亚迪：5300多家A股上市公司里 我们研发费用第一(2024-09-05)
比亚迪：5300多家A股上市公司里 我们研发费用第一;
9月5日消息，日前发布了2024年上半年的财务报告。总收入达到3011.27亿元，较去年同期增长了15.76%，而净......