资讯
英特尔至强处理器在AISBench测试中展现卓越AI大模型推理性能(2024-09-06)
英特尔至强处理器在AISBench测试中展现卓越AI大模型推理性能;近期，第五代英特尔®至强®可扩展处理器通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试（AISBench）。英特......
英特尔至强处理器在AISBench测试中展现卓越AI大模型推理性能(2024-09-06 11:06)
英特尔至强处理器在AISBench测试中展现卓越AI大模型推理性能;近期，第五代英特尔®至强®可扩展处理器通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试（AISBench）。英特......
英特尔至强处理器在AISBench测试中表现卓越(2024-09-06)
AISBench 2.0测试工具，完成了第五代英特尔至强可扩展处理器的AI大模型推理性能和精度测试。测试中，第五代英特尔至强在ChatGLM V2-6B（60亿参数）以及 Llama2-13B（130亿参数）两个模型上均展现出卓越推理性能......
英特尔披露至强6处理器针对Meta Llama 3模型的推理性能(2024-04-21)
核心均内置了AMX加速引擎，能够提供出色的AI推理和训练性能。截至目前，该处理器已被众多主流云服务商所采用。不仅如此，至强处理器在进行通用计算时，能够提供更低时延，并能同时处理多种工作负载。
事实上，英特尔一直在持续优化至强平台的大模型推理性能......
AI新星Groq横空出世，带动SRAM概念爆火(2024-02-25)
上。
Groq表示，相对于其他云平台厂商的大模型推理性能，基于其LPU芯片的云服务器的大模型推理性能最终实现了比其他云平台厂商快18倍......
英特尔披露至强6处理器针对Meta Llama 3模型的推理性能(2024-04-20)
上，英特尔一直在持续优化至强平台的大模型推理性能。例如，相较于Llama 2模型的软件，PyTorch及英特尔® PyTorch扩展包（Intel® Extension for PyTorch）的延......
加速替代CUDA！摩尔线程开源vLLM-MUSA 加速国产GPU AI(2024-11-06)
和服务框架，支持创新的PagedAttention内存管理、连续批处理请求、CUDA/HIP图的快速模型执行、CUDA核心优化、分布式推理支持等，可显著提高大语言模型(LLM)的推理性能......
英特尔披露至强6处理器针对Meta Llama 3模型的推理性能(2024-04-22)
上，英特尔一直在持续优化至强平台的大模型推理性能。例如，相较于Llama 2模型的软件，PyTorch及英特尔® PyTorch扩展包（Intel® Extension for PyTorch）的延......
英特尔披露至强6处理器针对Meta Llama 3模型的推理性能(2024-04-22 13:43)
核心均内置了AMX加速引擎，能够提供出色的AI推理和训练性能。截至目前，该处理器已被众多主流云服务商所采用。不仅如此，至强处理器在进行通用计算时，能够提供更低时延，并能同时处理多种工作负载。事实上，英特尔一直在持续优化至强平台的大模型推理性能......
第五代至强AI跑分结果出炉：比第四代强1.42倍(2024-03-29)
尔产品迄今为止在多轮MLPerf基准测试中均所展示出领先的训练及推理性能，该测试结果亦为客户树立了可用于评估产品AI性能的行业标准。
关于第五代至强的测试结果：
与第四代至强在MLPerf推理v3.1性能基准测试......
英特尔至强和AI PC等产品为Meta Llama 3生成式AI工作负载提供加速(2024-04-22)
包，以及用于模型开发和推理的OpenVINO™工具包等。
在英特尔产品上运行Llama 3：英特尔初步测试和评估80亿和700亿参数的Llama 3模型在自身产品上的性能时，使用了包括PyTorch......
英特尔至强和AI PC等产品为Meta Llama 3生成式AI工作负载提供加速(2024-04-19)
为了降低延迟，英特尔也通过技术创新来优化大语言模型的推理性能。配备性能核的英特尔® 至强® 6处理器（代号Granite Rapids）在运行80亿参数的Llama 3模型推理时，延迟比第四代英特尔® 至强®......
英特尔至强和AI PC等产品为Meta Llama 3生成式AI工作负载提供加速(2024-04-22 08:47)
库和英特尔PyTorch扩展包在内的开源软件，并提供最新的软件优化。有关更多性能细节，请访问英特尔开发者博客。 • 英特尔至强处理器能够运行严苛的端到端AI工作负载，同时为了降低延迟，英特尔也通过技术创新来优化大语言模型的推理性能......
英特尔通过软硬件为LIama 2大模型提供加速，持续发力推动AI发展(2023-07-20)
尔软件与先进技术副总裁兼执行战略部总经理，Melissa Evers
在Llama 2发布之际，我们很高兴地分享70亿和130亿参数模型的初始推理性能测试结果。这些模型在英特尔AI产品组合上运行，包括Habana®......
英特尔一系列AI解决方案，为Llama 2大模型提供实力之选(2023-07-25)
行战略部总经理
在Llama 2发布之际，我们很高兴地分享70亿和130亿参数模型的初始推理性能测试结果。这些模型在英特尔AI产品组合上运行，包括Habana®Gaudi®2 深度学习加速器、第四代英特尔®至强......
英特尔一系列AI解决方案，为Llama 2大模型提供实力之选(2023-07-25)
工智能和分析部门总经理
-- Melissa Evers
英特尔软件与先进技术副总裁
兼执行战略部总经理
在Llama 2发布之际，我们很高兴地分享70亿和130亿参数模型的初始推理性能测试结果。这些模型......
英特尔通过软硬件为LIama 2大模型提供加速(2023-07-20)
很高兴地分享70亿和130亿参数模型的初始推理性能测试结果。这些模型在英特尔AI产品组合上运行，包括Habana® Gaudi®2深度学习加速器、第四代英特尔®至强®可扩展处理器、英特尔®至强®CPU Max系列......
采用创新的FPGA 器件来实现更经济且更高能效的大模型推理解决方案(2024-06-11)
上测试了 Llama2 70B 模型的推理性能，并将其与领先的 GPU 进行了比较。该基准测试是通过对输入、输出序列长度 （1,128） 和批处理大小 =1 进行建模来完成的。结果......
英特尔通过软硬件为LIama 2大模型提供加速，持续发力推动AI发展(2023-07-21)
很高兴地分享70亿和130亿参数模型的初始推理性能测试结果。这些模型在英特尔AI产品组合上运行，包括Habana® Gaudi®2深度学习加速器、第四代英特尔®至强®可扩展处理器、英特尔®至强®CPU......
算力大升级 英特尔至强可扩展处理器持续技术创新(2023-12-29)
异的表现得到了客户的很高评价,也让更多准备升级云计算基础设施的企业对新一代至强® 有了更高的期待。
英特尔 AMX提升大模型推理性能,助力京东升级营销购物体验
2023 年京......
算力大升级 英特尔至强可扩展处理器持续技术创新(2023-12-25)
更多准备升级云计算基础设施的企业对新一代至强® 有了更高的期待。
英特尔 AMX提升大模型推理性能，助力京东升级营销购物体验
2023 年京东云突破性地在数百个AI场景中应用了大模型，在数百个营销场景中升级了原有工作流，显著......
算力大升级 英特尔至强可扩展处理器持续技术创新(2023-12-26 10:35)
尔 AMX提升大模型推理性能，助力京东升级营销购物体验2023 年京东云突破性地在数百个AI场景中应用了大模型，在数百个营销场景中升级了原有工作流，显著提升了商家与消费者的购物体验。基于自研的言犀AI......
英特尔以全栈软硬件布局，拥抱人工智能发展新机遇(2023-09-04)
ERNIE-Tiny。这款百度在飞桨文心大模型核心产品上推出的轻量化版本，在引入英特尔® AMX之后，整体推理性能得到多倍提升，同时也使其在通用CPU平台上获得令人满意的推理......
英特尔以全栈软硬件布局,拥抱人工智能发展新机遇(2023-09-04)
核心产品上推出的轻量化版本，在引入英特尔® AMX之后，整体推理性能得到多倍提升，同时也使其在通用CPU平台上获得令人满意的推理效能，从而能进一步扩大普范围，帮助更多用户在既有IT设施中更为方便地部署文心模型......
英特尔软硬协同，优化阿里云通义千问2 AI模型(2024-06-11)
尔的硬件可利用软件框架和工具包进行加速，并获得出色的大模型推理性能，其中包括PyTorch和英特尔® PyTorch扩展包、OpenVINO™工具包、DeepSpeed、Hugging Face库和vLLM。
英特......
解锁第五代英特尔至强的AI“秘籍”：CPU也能运行大模型推理(2024-03-20)
解锁第五代英特尔至强的AI“秘籍”：CPU也能运行大模型推理; ChatGPT引发的大模型概念已经持续火爆一年，直至今日，AI的热度不仅没有下降，行业也迸发出越来越多具有颠覆性的应用。2024年初......
采用创新的FPGA 器件来实现更经济且更高能效的大模型推理解决方案(2024-06-18)
我们在 Speedster7t FPGA 上测试了 Llama2 70B 模型的推理性能，并将其与领先的 GPU 进行了比较。该基准测试是通过对输入、输出序列长度（1,128） 和批处理大小 =1 进行......
采用创新的FPGA器件来实现更经济且更高能效的大模型推理解决方案(2024-06-12)
对比
我们在 Speedster7t FPGA 上测试了 Llama2 70B 模型的推理性能，并将其与领先的 GPU 进行了比较。该基准测试是通过对输入、输出序列长度 （1,128） 和批......
NVIDIA 携手微软，在生成式 AI 的新时代推动 Windows PC 创新(2023-05-25)
无缝协作，从而提供最佳的 AI 模型开发体验。
提升 AI 的性能和能效
一旦部署，生成式 AI 模型需要令人难以置信的推理性能。RTX Tensor Core 为 AI 推理提供高达 1,400......
英特尔以全栈软硬件布局，拥抱人工智能发展新机遇(2023-09-06 09:43)
核心产品上推出的轻量化版本，在引入英特尔® AMX之后，整体推理性能得到多倍提升，同时也使其在通用CPU平台上获得令人满意的推理效能，从而能进一步扩大普范围，帮助更多用户在既有IT设施中更为方便地部署文心模型......
英特尔以全栈软硬件布局，拥抱人工智能发展新机遇(2023-09-06)
-Tiny。这款百度在飞桨文心大模型核心产品上推出的轻量化版本，在引入英特尔® AMX之后，整体推理性能得到多倍提升，同时也使其在通用CPU平台上获得令人满意的推理效能，从而能进一步扩大普范围，帮助......
源2.0-M32大模型发布量化版 运行显存仅需23GB 性能可媲美LLaMA3(2024-08-25)
量化（Model Quantization）是优化大模型推理的一种主流技术，它显著减少了模型的内存占用和计算资源消耗，从而加速推理过程。然而，模型量化可能会影响模型的性能。如何在压缩模型的同时维持其精度，是量......
有了 AI 大模型，智能座舱会变成什么样？(2023-05-28)
大家提前体验了一下新一代 AI 智舱的探索成果。
我们来一起看看，AI 大模型究竟能为智能汽车，特别是智能座舱带来哪些惊喜？
座舱里的大模型 ，能怎么用？
在聊 AI 大模型上车之前，我们先回忆一下大模型......
AI大模型的算力焦虑，最终要靠CPU？(2024-03-19)
推理正在不断证实可行。而现在，第五代至强可扩展处理器能够在无需添加独立加速器的前提下，运行高达200亿参数的模型推理，且延迟低于100毫秒。一款为AI加速而生，且表现更强的处理器诞生了。
CPU......
中国信通院公布 AI 代码大模型评估，阿里云、华为、商汤等首批通过(2024-06-12)
库开发、大数据开发、嵌入式开发等多个场景支持能力；
在应用成熟度方面，通义灵码具备较完善的数据合规及数据分类分级机制，且模型稳定性及可维护性表现优异，在模型推理性能、模型......
李彦宏：百度文心大模型推理成本已降至1%(2024-02-29)
李彦宏：百度文心大模型推理成本已降至1%;
2月29日消息，在百度2023年第四季度及全年财报电话会上，百度创始人、董事长兼首席执行官透露，百度文心大模型推理成本已降至1%。
李彦......
Gaudi2走向“高地”，推理性能超过A100(2023-09-21)
对60亿参数大语言模型及计算机视觉与自然语言处理模型GPT-J的MLPerf推理v3.1性能基准测试结果中：
Gaudi2在GPT-J-99和GPT-J-99.9上的服务器查询和离线样本的推理性能......
最新MLCommons结果公布 英特尔展现强大AI推理性能(2023-09-12)
最新MLCommons结果公布 英特尔展现强大AI推理性能;英特尔产品在全新MLCommons AI推理性能测试中尽显优势
今日，MLCommons公布针对 60 亿参数大语言模型及计算机视觉与自然语言处理模型......
OpenVINO DevCon 2023重磅回归！英特尔以创新产品激发开发者无限潜能(2023-06-05 09:49)
场景下的开发难题，优化开发体验，充分释放开发者的创新活力。”作为一款深度学习推理工具，OpenVINO™已帮助数十万开发者大幅提升了AI推理性能，使其仅凭借几行代码即可实现高性能“一次编写，任意......
OpenVINO™ DevCon 2023重磅回归！英特尔以创新产品激发开发者无限潜能(2023-06-02)
套件为代表的创新产品，化解各种AI应用场景下的开发难题，优化开发体验，充分释放开发者的创新活力。”
作为一款深度学习推理工具，OpenVINO™已帮助数十万开发者大幅提升了AI推理性能，使其仅凭借几行代码即可实现高性能......
被采纳超1亿行！阿里AI编程助手通义灵码获最高评级(2024-06-13)
用成熟度方面，通义灵码具备较完善的数据合规及数据分类分级机制，且模型稳定性及可维护性表现优异，在模型推理性能、模型服务风险可控性等方面均表现优秀。
据悉，通义灵码已经熟练掌握Java、Python......
Amazon EC2 Inf2实例正式可用 助力更低成本、更高性能的生成式AI推理(2023-04-21)
Amazon EC2 Inf2实例正式可用 助力更低成本、更高性能的生成式AI推理;
深度学习(DL)的创新，特别是大语言模型(LLM)的快速发展，已经席卷了整个行业。深度学习模型......
最新MLCommons结果公布 英特尔展现强大AI推理性能(2023-09-13 14:57)
最新MLCommons结果公布 英特尔展现强大AI推理性能;英特尔产品在全新MLCommons AI推理性能测试中尽显优势今日，MLCommons公布针对 60 亿参数大语言模型及计算机视觉与自然语言处理模型......
国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090(2024-06-19)
国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090;
6月14日消息，摩尔线程官方宣布，2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试，包括大模型推理、基于......
最新MLCommons结果公布 英特尔展现强大AI推理性能(2023-09-13)
最新MLCommons结果公布 英特尔展现强大AI推理性能;英特尔产品在全新MLCommons AI推理性能测试中尽显优势
今日，MLCommons公布针对 60 亿参数大语言模型及计算机视觉与自然语言处理模型......
OpenVINO™ DevCon 2023重磅回归！英特尔以创新产品激发开发者无限潜能(2023-06-05)
场景下的开发难题，优化开发体验，充分释放开发者的创新活力。”
作为一款深度学习推理工具，OpenVINO™已帮助数十万开发者大幅提升了AI推理性能，使其仅凭借几行代码即可实现高性能“一次编写，任意......
潞晨科技Colossal-AI + 浪潮信息AIStation，大模型开发效率提升10倍(2024-03-01)
赛道世界第一，并且已与国内外多家500强企业合作，促进AI大模型在自动驾驶、云计算、零售、医药、金融等领域落地。
本次兼容性测试完成了Colossal-AI异构内存管理系统、高效自动N维并行系统、低延时推理......
潞晨科技Colossal－AI + 浪潮信息AIStation，大模型开发效率提升10倍(2024-03-04 09:00)
赛道世界第一，并且已与国内外多家500强企业合作，促进AI大模型在自动驾驶、云计算、零售、医药、金融等领域落地。
本次兼容性测试完成了Colossal-AI异构内存管理系统、高效自动N维并行系统、低延时推理......
OpenAI更新推理模型o3－mini思维链(2025-02-08 10:07)
OpenAI更新推理模型o3－mini思维链;OpenAI宣布，面向免费和付费用户更新其推理模型o3-mini的思维链，显示了更多的模型推理步骤以及如何得出问题的答案，并为付费用户更新o3-mini......
加速大模型上车 浪潮信息自动驾驶计算框架AutoDRRT 2.0实现车端低延时计算(2024-10-22)
函数之间的切换，进一步优化了性能。以BEVDet为例，AutoDRRT 2.0的BEV算法库在典型推理能力上实现了相较于业界开源版本速度提升1倍，在单SOC上推理超过50 FPS。实车测试显示，浪潮......
相关企业
与验证并具有第三方公正地位的专业检测机构。 TTS主要致力纸张，纸板，纸箱，缓冲材料，收缩薄膜，联运托盘，包装运输件，电子电工等可靠性方面的检验。能为各行业提供包装制品性能检测，包装设计结构合理性分析的全方位服务。
内大型独资生产试验机公司，专门从事各种材料的物理性能测试仪器、生产设备研制与开发的高新技术企业。公司占地4万多平方米，建筑面积l万多平方米，7000多平方米的机加工车间宽敞明亮，绿化面积占40％多，绿草茵茵，环境优美。 现有
创新的技术团队和一批长期从事光纤、光缆等产品研发的开发队伍。 公司按照ISO9000国际标准建立了严格的质量保证体系。配备了先进齐全的测试仪器和设备， 对原材料、光纤、光缆等产品的光学性能、机械物理性能、环境性能等进行综合测试
;东莞市华京鹰电子仪器有限公司;;华京鹰电子仪器是专业研究材料测试技术和研制生产材料测试仪器、设备的高新科技企业。公司产品可对橡胶、塑胶、电线、电缆、管材、金属、薄膜、纤维、帘线等多种材料进行物理性能
;怎么;;
;深圳市检测设备\检测仪器\试验机公司;;深圳市众兴达检测设备有限公司是一家集科研开发、生产制造、经营销售和网络销售于一体的高新技术型企业；是专门研究材料及其成品、半成品的物理性能检测及研发制造材料测试
;扬州嘉宝电气 有限公司;;扬州嘉宝电气有限公司始建于一九八五年，是一家集科研开发、生产制造、经营销售和网络销售于一体的高新技术型企业；是专门研究材料及其成品、半成品的物理性能检测及研发制造材料测试
;法国迪朗西北总代理;;法国迪朗是一家专业的绿色减肥机构。不打针，不吃药，让你快速减肥，想怎么就怎么减。不节食，好处多多。就像你喝水那样简单，减肥方法简单易行。
;强哥伟业;;怎么这么难呀
纸板、纸箱、纸护角、纸管、蜂窝纸板 等的各项物理性能测试； 试验项目：定量、耐破强度、边压强度、平压强度、抗压强度、水份、粘合强度、戳穿强度、弯曲挺度、防潮性、纵向抗压、抗弯试验、剥离强度等等； B 塑料制品测试