资讯
如何提高自动驾驶汽车感知模型的训练效率和GPU利用率(2024-09-25)
上，但是因为计算不平衡，会导致明显的 GPU 间负载不均衡现象，一些 GPU 的计算资源无法被充分利用。
基于 PyTorch DTensor 的张量并行 CNN 训练
综合......
英特尔通过软硬件为LIama 2大模型提供加速(2023-07-20)
HBM2E的内存容量，可满足大语言模型的内存需求并提高推理性能。Gaudi2配备Habana® SynapseAI®软件套件，该套件集成了对PyTorch和DeepSpeed的支持，以用于大语言模型的训练......
英特尔通过软硬件为LIama 2大模型提供加速，持续发力推动AI发展(2023-07-21)
器具备96GB HBM2E的内存容量，可满足大语言模型的内存需求并提高推理性能。Gaudi2配备Habana® SynapseAI®软件套件，该套件集成了对PyTorch和DeepSpeed的支持，以用于大语言模型的训练......
英特尔一系列AI解决方案，为Llama 2大模型提供实力之选(2023-07-25)
已在谷歌云平台和阿里云全面上线。英特尔将持续在PyTorch*和DeepSpeed*进行软件优化，以进一步加速Llama 2和其它大语言模型。
英特尔®数据中心GPU Max系列
英特尔数据中心GPU......
英特尔一系列AI解决方案，为Llama 2大模型提供实力之选(2023-07-25)
足大语言模型的内存需求并提高推理性能。Gaudi2配备Habana®SynapseAI®软件套件，该套件集成了对PyTorch和DeepSpeed的支持，以用于大语言模型的训练和推理。此外，SynapseAI......
英特尔通过软硬件为LIama 2大模型提供加速，持续发力推动AI发展(2023-07-20)
SynapseAI®软件套件，该套件集成了对PyTorch和DeepSpeed的支持，以用于大语言模型的训练和推理。此外，SynapseAI近期开始支持HPU Graphs和DeepSpeed推理，专门......
英特尔加入PyTorch基金会,通过PyTorch*推动AI普及(2023-08-17)
了这些优化和功能，可以让使用者更早获得加速和其他助益。扩展包以oneAPI跨体系结构编程模型为基础，只需几行代码，用户便可以利用最新的英特尔PyTorch软件和硬件优化。
此外，英特尔针对GPU的 PyTorch......
英特尔加入PyTorch基金会，通过PyTorch*推动AI普及(2023-08-17)
，英特尔针对GPU的 PyTorch扩展包（IPEX）通过最新功能和优化扩展了PyTorch，从而在英特尔显卡上获得额外的性能提升。它在GitHub xpu-master分支的一个开源项目中发布。更多......
Meta 推出自研 AI 运算芯片：MTIA v1(2023-05-24)
硬件系统需要提供呈指数级增长的内存和计算能力，同时保持高效。
对于以 Meta 规模所需的效率水平运行的特定推荐工作负载，GPU
并不总是最佳选择。我们应对这一挑战的解决方案是设计一系列特定于推荐的元训练......
英特尔加入PyTorch基金会，通过PyTorch*推动AI普及(2023-08-18)
了这些优化和功能，可以让使用者更早获得加速和其他助益。扩展包以oneAPI跨体系结构编程模型为基础，只需几行代码，用户便可以利用最新的英特尔PyTorch软件和硬件优化。
此外，英特尔针对GPU的......
英特尔加入PyTorch基金会，通过PyTorch*推动AI普及(2023-08-18 10:15)
让使用者更早获得加速和其他助益。扩展包以oneAPI跨体系结构编程模型为基础，只需几行代码，用户便可以利用最新的英特尔PyTorch软件和硬件优化。此外，英特尔针对GPU的 PyTorch扩展......
Habana® Gaudi®加速器首次运用于Amazon EC2云(2021-11-19)
宣布实例应用的活动上，介绍了创建这一新型训练实例类的初衷：“为终端客户提供比目前这一代基于GPU的实例性价比提升40%的新实例。”
以下详述Gaudi在常用计算机视觉和自然语言处理工作量方面具备的成本效益。
“性价......
NVIDIA 携手微软，在生成式 AI 的新时代推动 Windows PC 创新(2023-05-25)
计师能够根据自己的风格或内容进行定制。NVIDIA 数据中心 GPU 也运行相同的 NVIDIA AI 软件堆栈，开发人员因此可以轻松将模型推送到微软 Azure 云上进行大规模训练。
快速优化并部署模型
有了经过训练的模型，开发......
解锁第五代英特尔至强的AI“秘籍”：CPU也能运行大模型推理(2024-03-20)
尔开发的基础软件和数据库通过Pytorch和ONNX Runtime等流行框架支持自身的 、GPU、IPU和AI加速器。
此外，英特尔还提供了PyTorch和TensorFlow的库扩展，这将......
AI大模型的算力焦虑，最终要靠CPU？(2024-03-19)
尔开发的基础软件和数据库通过Pytorch和ONNX Runtime等流行框架支持自身的 CPU、GPU、IPU和AI加速器。
此外，英特尔还提供了PyTorch和TensorFlow的库扩展，这将......
从数据中心到边缘侧，英特尔全方案助力AI加速落地(2024-07-26)
尔在最近几年在持续发布并更新AI加速器、支持大模型的软件栈、支持端侧AI需求的分离式显卡、内置GPU、CPU、NPU的处理器，以及面向AI的开源软件等产品。
支持AI训练/推理的加速器和软件生态
英特......
亚马逊搜索“宝藏团队”利用深度学习赋能业务发展(2023-05-26)
团队开始使用亚马逊云科技服务构建、训练和部署其机器学习模型。截至2022年，团队使用各种亚马逊云科技服务，每月扩展至数千个训练任务，涉及大量GPU集群上的PB级数据。除了使用Amazon
S3进行......
芯原查凯南：NPU如何推进嵌入式智能设备发展(2024-06-13)
模型和云端模型可以通过自然语言进行交互，显著提升智能效果。”
不过，云端和边端的分工有所不同。云端大多使用的是超级大模型，通常在70B以上，可能需要几百甚至几千张卡进行计算，同时云端能够同时胜任大模型的推理和训练任务。边端在算力、容量......
戴尔Precision AI就绪型工作站加速AI开发(2023-12-07)
成绩为PyTorch GNMT V2训练测试成绩的相对性能。此结果是在正式生产前的硬件和软件样品上的初步结果，最终性能可能有所变化。......
AMD叫板英伟达为何吃力不讨好？国产GPU不能只看算力(2023-07-05)
的发展推向了一个新的高潮，生成式 AI 需要基于海量的数据进行推理训练，高算力的 GPU 加速卡自然也成了市场的抢手货。乘着AI的东风，英伟达坐上了“算力霸主”的宝......
摩尔线程万卡GPU集群新进展！性能可提升20倍(2024-07-19)
库是一个使用Triton编程语言实现的高性能通用算子库，旨在为大语言模型提供一系列可应用于PyTorch框架的算子，加速模型的推理与训练，降低新算法的开发门槛。
它以Triton编程......
英特尔、Habana Labs与Hugging Face推动Transforme(2022-12-12)
，Transformer可原生支持该功能，并使数据科学家们更容易地进行分布式调优。
例如，在英特尔至强可扩展处理器的分布式集群上加速Transformer模型的PyTorch训练时，为在PyTorch中能......
“深度学习+”、“互联网+”、“人工智能+”很热门(2023-02-14)
陆续发布了BERT、Muse等大模型，积极探索预训练大模型在AIGC、文本对话等领域的可能性。另一家受到全球关注的科技公司Meta，也积极发展自身的深度学习框架。2018年，Meta将Caffe2代码......
IBM推出基于IBM Cloud的GPU解决方案，助力客户部署基础模型和AI工作负载(2023-05-10)
责任的方式借助AI进行数字化转型。
IBM推出基于IBM Cloud的GPU解决方案
性能密集型计算：IBM的成功路线图IBM研究院（IBM Research）正将性能密集型计算解决方案应用于基础模型的训练......
谷歌：AI 超级计算机比英伟达 A100 快且环保(2023-04-06)
在跑 AI 模型时，如果用 PyTorch 框架，相比上一代 V100 芯片，A100 在 BERT 模型的训练上性能提升 6 倍，BERT
推断时性能提升 7 倍。
谷歌的 AI 超级......
英特尔、Habana Labs与Hugging Face推动Transformer业务在训练和推理优化及扩展取得关键进展(2022-12-13 10:19)
生支持该功能，并使数据科学家们更容易地进行分布式调优。例如，在英特尔至强可扩展处理器的分布式集群上加速Transformer模型的PyTorch训练时，为在PyTorch中能够有效利用英特尔®高级......
，Transformer可原生支持该功能，并使数据科学家们更容易地进行分布式调优。
例如，在英特尔至强可扩展处理器的分布式集群上加速Transformer模型的PyTorch训练时，为在PyTorch中能......
潞晨科技Colossal-AI + 浪潮信息AIStation，大模型开发效率提升10倍(2024-03-01)
速度提升38%，仅需32张GPU卡。Colossal-AI发布后多次登顶GitHub热度榜世界第一，目前已与PyTorch、Hugging Face等全球顶级AI生态深度融合，位列全球TOP400，细分......
潞晨科技Colossal－AI + 浪潮信息AIStation，大模型开发效率提升10倍(2024-03-04 09:00)
%，仅需32张GPU卡。Colossal-AI发布后多次登顶GitHub热度榜世界第一，目前已与PyTorch、Hugging Face等全球顶级AI生态深度融合，位列全球TOP400，细分......
第一时间适配！英特尔锐炫GPU在运行Llama 3时展现卓越性能(2024-04-23)
-Lama3-8B-Instruct
在英特尔锐炫A770上运行Llama 3的下一个Token延迟
上图展示了在搭配PyTorch框架和针对英特尔GPU的优化后，英特尔锐炫A770显卡......
第一时间适配！英特尔锐炫GPU在运行Llama 3时展现卓越性能(2024-04-24)
-Lama3-8B-Instruct
在英特尔锐炫A770上运行Llama 3的下一个Token延迟
上图展示了在搭配PyTorch框架和针对英特尔GPU的优化后，英特尔锐炫A770显卡在运行Llama......
安霸CV75S AI SoC 将视觉语言模型和视觉Transformer引入相机(2024-04-25)
使用高级算法描述对其进行了编程，并可与 Tensorflow、Caffe 和 PyTorch 配合使用。 该引擎使 SoC 能够每秒执行数TOPS操作，而功耗仅为领先 GPU 和通用 CPU 解决......
Achronix推出基于FPGA的加速自动语音识别解决方案(2023-11-29)
方案将给那些依赖于快速且准确的语音转文本功能的行业带来革命性的影响。其特性包括与主流深度学习框架（如PyTorch等）的兼容性，以及用于多语言或专业的可重训练性。该解决方案目前已在早期合作客户中部署，现在可以在一般市场上使用。大家......
干货分享|NVIDIA GPU应用解决方案加速AI应用落地(2023-02-02)
其余程序代码，可显著提高应用程序的运行速度，建设一个GPU高性能计算集群可以提供一个GPU加速的人工智能实验平台，促进企业人工智能、大数据、深度学习、机器学习等算法方面的研究和应用。
此外，还需要pytorch......
18年持续创新，Amazon S3与时俱进应对云上“存”需求(2024-03-21)
集进行为期15天训练时，GPU经常需要等候标准版Amazon S3加载数据，而在换成S3 Express One Zone之后，GPU利用率持续稳定在高水平，最终提早完成任务，释放了GPU资源......
Achronix推出基于FPGA的加速自动语音识别解决方案(2023-11-29)
共同推出的加速ASR解决方案将给那些依赖于快速且准确的语音转文本功能的行业带来革命性的影响。其特性包括与主流深度学习框架（如PyTorch等）的兼容性，以及用于多语言或专业的可重训练性。该解......
市场规模近千亿，云端AI芯片的市场需求不断增长(2022-11-01)
芯片，而GPU 芯片并不擅长推理任务，因此未来中国AI推理芯片的弯道超车机会显现。
如今在全球云端AI芯片市场领域，可以说是英伟达一家独大，在云端训练......
特斯拉超级计算机系统：挑战英伟达，开启视觉为重点AI新时代(2023-09-19)
拉展示了自家研发的Dojo超级计算机系统，以及在自动驾驶、神经网络和人形机器人领域的最新成果。Dojo超级计算机系统专门设计用于人工智能机器学习，旨在处理和训练自动驾驶系统所产生的海量视频数据。它采......
Meta Llama 3.1模型刚刚发布，英特尔就开启了适配：跑分性能一流(2024-07-25)
界领先的闭源模型。可以说，随着它的发布，为大模型开源闭源战争开创了一个新的里程碑。
Llama 3.1多语言大模型组合包含了80亿参数、700亿参数以及4050亿参数（文本输入/文本输出）预训练及指令调整的生成式AI......
在 PyTorch 上将 AI 算法的实时推理速度提升 10 倍，有可能吗?(2023-01-26)
在 PyTorch 上将 AI 算法的实时推理速度提升 10 倍，有可能吗?;
前段时间的CES上，正式发布Ryzen 7000的3D缓存版，对于游戏玩家来说，Ryzen 7000
3D缓存......
英特尔AI解决方案为最新Meta Llama 3.1模型提供加速(2024-07-25)
（4050亿参数）。目前，英特尔丰富的AI产品组合已支持上述最新模型，并通过开放生态系统软件实现针对性优化，涵盖PyTorch及英特尔® PyTorch扩展包（Intel® Extension......
卷积神经网络的硬件转换：什么是机器学习？——第三部分(2023-06-13)
/C++应用程序，创建并测试固件
开发过程的第一阶段涉及建模、训练和评估AI模型等环节。此阶段开发人员可以利用开源工具，例如PyTorch 和TensorFlow。MAX78000的GitHub网页......
从开源走向AI普惠:IDC《AI与大数据开源生态研究》发布(2023-01-13)
天端到端的人工智能应用解决方案，再到开发语言，以及底层的开发平台，人工智能应用开发已不再是简单的训练算法模型，而更重要的是打造端到端的AI技术栈。
AI与大数据开源以数据库、AI开发框架等为重点开发领域，未来......
英特尔Flex系列GPU发布软件更新包，扩展支持Windows云游戏等新功能(2023-05-29 09:34)
系列GPU的软件指导和开发者目录的入门指南。•AI推理：通过英特尔®AI分析工具包，英特尔Flex系列GPU支持大多数常用的AI框架，包括TensorFlow和PyTorch等等。英特......
英特尔Flex系列GPU发布软件更新包，扩展支持Windows云游戏等新功能(2023-05-26)
英特尔Flex系列GPU发布软件更新包，扩展支持Windows云游戏等新功能;随着Flex系列GPU应用势头的增长，英特尔通过持续的软件更新扩展支持Windows云游戏和AI的工作负载。
英特......
特尔至强可扩展处理器的分布式集群上加速Transformer模型的PyTorch训练时，为在PyTorch中能够有效利用英特尔®高级矩阵扩展（英特尔®AMX）、AVX-512以及......
英特尔AI解决方案为最新Meta Llama 3．1模型提供加速(2024-07-26 08:40)
亿参数）。目前，英特尔丰富的AI产品组合已支持上述最新模型，并通过开放生态系统软件实现针对性优化，涵盖PyTorch及英特尔® PyTorch扩展包（Intel® Extension......
英特尔AI解决方案为最新Meta Llama 3.1模型提供加速(2024-07-25)
亿参数）。目前，英特尔丰富的AI产品组合已支持上述最新模型，并通过开放生态系统软件实现针对性优化，涵盖PyTorch及英特尔® PyTorch扩展包（Intel® Extension......
苹果推出新一代自研M2 Pro和M2 Max芯片(2023-01-18)
Pro 和 M2 Max。根据苹果的官方数据显示，M2 Pro采用第二代5纳米制程工艺，继承约400亿晶体管，支持最高12核CPU和最高19核GPU，并支持最高32GB统一内存以及200GB/s统一......
苹果推出新一代自研M2 Pro和M2 Max芯片(2023-01-18)
M2 Max。
根据苹果的官方数据显示，M2 Pro采用第二代5纳米制程工艺，继承约400亿晶体管，支持最高12核CPU和最高19核GPU，并支持最高32GB统一内存以及200GB/s统一......
相关企业
;北京思腾创新科技发展有限公司;;公司成立于2005年 是一家专营DIY服务器、AMD Opteron服务器CPU、NVIDIA Tesla 系列并行运算GPU 、SOLIDATA SSD 的综合性核心经销商！！
;深圳市强盛塑胶电子厂;;2006年成立,公司现在人员200多,注册资金500万.
;中山市电星电器实业有限公司;;民营企业,有工人500多,主要以开发、生产、销售电源产品。
;山银科技有限公司;;山 银 科 技 有 限 公 司 在 市 场 上 屹 立 已 多 年，一 向 本 着 提 供 高
逻辑芯片组、绘图显卡芯片GPU 2．笔记本CPU、核心逻辑芯片组、绘图显卡芯片GPU 3．网络、通讯控制芯片 4．南桥芯片、SATA控制芯片以及视频桥接芯片 NVIDIA公司 1．台式机图形处理、显卡
;温州市升龙变压器厂;;本企业是股份制外向型企业，位于温州市临江工业区，居330国道瓯青复线旁，占地面积5000多
;佛山市南海南洋电机电器有限公司;;1987年,佛山市南海南洋电机电器有限公司成立。公司现有厂房面积30000多
;温州升龙变压器有限公司;;本企业是股份制外向型企业，位于温州市临江工业区， 居330 国道瓯青复线旁，占地面积5000多
;珠海百思自信当众讲话训练机构;;珠海百思自信当众讲话训练机构珠海百思自信当众讲话训练机构珠海百思自信当众讲话训练机构珠海百思自信当众讲话训练机构珠海百思自信当众讲话训练机构
;上海盼成电器设备制造有限公司;;上海盼成电器设备制造有限公司坐落在上海市著名的南翔高科技园区，占地4000多