不久前,英特尔宣布以Premier会员的身份加入PyTorch*基金会,并期待与各行各业的领军企业在开源PyTorch框架和生态系统上开展合作。PyTorch能够加速人工智能应用的开发,这将促进试验与创新,在加速AI发展方面发挥关键作用。加入PyTorch基金会,进一步彰显了英特尔致力于通过技术支持并培育其生态系统以加速机器学习框架的演进。
英特尔自2018年起为PyTorch提供支持,旨在通过丰富的硬件和开放的软件推动AI普及。英特尔正在不断推进PyTorch并拓展生态,以创新为先,推动构建一个“AI触手可及”的未来。
英特尔通过优化,提升PyTorch* 2.0功能
PyTorch受益于英特尔为x86提供的诸多优化,包括利用英特尔® oneAPI深度神经网络库(oneDNN)加速PyTorch,针对aten算子和BFloat16的优化,以及自动混合精度支持。英特尔也积极参与PyTorch通用功能(如量化和编译器)的设计与部署,为PyTorch 2.0提供了四个重要性能特性:
1. 优化TorchInductor CPU FP32推理
2. 在PyG中改进图神经网络(GNN),以支持推理和训练性能
3. 针对x86 CPU平台,优化了统一量化后端的int8推理
4. 利用oneDNN Graph API加速在CPU上的推理
我们还计划在框架的后续版本中加入新特性。
与PyTorch社区合作
英特尔的维护人员积极参与PyTorch社区,以促进AI开发人员、研究人员和行业专家之间的合作与创新。主要交流活动包括:
PyTorch GitHub问题分类
加强PyTorch文档(如PyTorch Docathon)
举办会议和研讨会,分享包含PyTorch的英特尔最新应用程序
发布技术博客、文章和白皮书
通过PyTorch视频栏目突出关键技术材料
进一步推动PyTorch开放生态系统
在把最新的优化和功能贡献到PyTorch社区之前,英特尔发布了英特尔®PyTorch*扩展包(IPEX)包含了这些优化和功能,可以让使用者更早获得加速和其他助益。扩展包以oneAPI跨体系结构编程模型为基础,只需几行代码,用户便可以利用最新的英特尔PyTorch软件和硬件优化。
此外,英特尔针对GPU的 PyTorch扩展包(IPEX)通过最新功能和优化扩展了PyTorch,从而在英特尔显卡上获得额外的性能提升。它在GitHub xpu-master分支的一个开源项目中发布。更多详情,请见发布说明。
英特尔同时也为PyTorch生态系统中的库提供技术支持,如torch-serve、PyTorch Geometric、DeepSpeed和Hugging Face Transformers(例如Accelerate、Optimum)。
英特尔加入Linux基金会AI & Data基金会
本月早些时候,英特尔还以Premier会员身份加入了Linux基金会AI & Data基金会。通过加入理事会,英特尔可以提供更多在领导开放创新和培育开发者社区的丰富经验,帮助制定基金会AI和数据工作的战略方向,以加速开源AI项目和技术的发展。
获取软件
开放的生态可以推动行业创新与加速,英特尔提供了的广泛的AI优化硬件和软件组合,赋能AI的普及。英特尔期待与合作伙伴密切协作,推动PyTorch社区和生态系统向前迈进。
试用PyTorch 2.0,感受性能提升。
访问GitHub页面,获得教程及最新的英特尔PyTorch扩展包。
PyTorch资源
PyTorch入门
开发讨论
文档
产品和性能信息
1性能会因用途、配置和其他因素而异。更多信息请参见www.Intel.com/PerformanceIndex。
关于英特尔
英特尔(NASDAQ: INTC)作为行业引领者,创造改变世界的技术,推动全球进步并让生活丰富多彩。在摩尔定律的启迪下,我们不断致力于推进半导体设计与制造,帮助我们的客户应对最重大的挑战。通过将智能融入云、网络、边缘和各种计算设备,我们释放数据潜能,助力商业和社会变得更美好。如需了解英特尔创新的更多信息,请访问英特尔中国新闻中心 newsroom.intel.cn以及官方网站 intel.cn。