不久前,英特尔宣布以Premier会员的身份加入PyTorch*基金会,并期待与各行各业的领军企业在开源PyTorch框架和生态系统上开展合作。PyTorch能够加速人工智能应用的开发,这将促进试验与创新,在加速AI发展方面发挥关键作用。加入PyTorch基金会,进一步彰显了英特尔致力于通过技术支持并培育其生态系统以加速机器学习框架的演进。
英特尔自2018年起为PyTorch提供支持,旨在通过丰富的硬件和开放的软件推动AI普及。英特尔正在不断推进PyTorch并拓展生态,以创新为先,推动构建一个“AI触手可及”的未来。
英特尔通过优化,提升PyTorch* 2.0功能
PyTorch受益于英特尔为x86提供的诸多优化,包括利用英特尔® oneAPI深度神经网络库(oneDNN)加速PyTorch,针对aten算子和BFloat16的优化,以及自动混合精度支持。英特尔也积极参与PyTorch通用功能(如量化和编译器)的设计与部署,为PyTorch 2.0提供了四个重要性能特性:
1. 优化TorchInductor CPU FP32推理
2. 在PyG中改进图神经网络(GNN),以支持推理和训练性能
3. 针对x86 CPU平台,优化了统一量化后端的int8推理
4. 利用oneDNN Graph API加速在CPU上的推理
我们还计划在框架的后续版本中加入新特性。
与PyTorch社区合作
英特尔的维护人员积极参与PyTorch社区,以促进AI开发人员、研究人员和行业专家之间的合作与创新。主要交流活动包括:
进一步推动PyTorch开放生态系统
在把最新的优化和功能贡献到PyTorch社区之前,英特尔发布了英特尔®PyTorch*扩展包(IPEX)包含了这些优化和功能,可以让使用者更早获得加速和其他助益。扩展包以oneAPI跨体系结构编程模型为基础,只需几行代码,用户便可以利用最新的英特尔PyTorch软件和硬件优化。
此外,英特尔针对GPU的 PyTorch扩展包(IPEX)通过最新功能和优化扩展了PyTorch,从而在英特尔显卡上获得额外的性能提升。它在GitHub xpu-master分支的一个开源项目中发布。更多详情,请见发布说明。
英特尔同时也为PyTorch生态系统中的库提供技术支持,如torch-serve、PyTorch Geometric、DeepSpeed和Hugging Face Transformers(例如Accelerate、Optimum)。
英特尔加入Linux基金会AI & Data基金会
本月早些时候,英特尔还以Premier会员身份加入了Linux基金会AI & Data基金会。通过加入理事会,英特尔可以提供更多在领导开放创新和培育开发者社区的丰富经验,帮助制定基金会AI和数据工作的战略方向,以加速开源AI项目和技术的发展。
获取软件
开放的生态可以推动行业创新与加速,英特尔提供了的广泛的AI优化硬件和软件组合,赋能AI的普及。英特尔期待与合作伙伴密切协作,推动PyTorch社区和生态系统向前迈进。
试用PyTorch 2.0,感受性能提升。
访问GitHub页面,获得教程及最新的英特尔PyTorch扩展包。
PyTorch资源
产品和性能信息
1性能会因用途、配置和其他因素而异。更多信息请参见www.Intel.com/PerformanceIndex。
好文章,需要你的鼓励
法国人工智能公司Mistral AI宣布完成17亿欧元(约20亿美元)C轮融资,由荷兰半导体设备制造商ASML领投。此轮融资使Mistral估值从去年的60亿美元翻倍至137亿美元。英伟达、DST Global等知名投资机构参投。作为欧洲领先的AI开发商,Mistral凭借先进的多语言大模型与OpenAI等美国公司竞争,其聊天机器人Le Chat具备语音模式等功能。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
VAST Data收购了成立仅数月的初创公司Red Stapler,该公司由NetApp资深团队创立。Red Stapler创始人兼CEO Jonsi Stefansson将担任VAST云解决方案总经理,负责超大规模云战略。Red Stapler拥有6名开发人员,开发了跨SaaS交付、API集成、监控等功能的云控制平面和服务交付平台,将加速VAST AI OS在超大规模和多云环境中的部署,深化与全球领先超大规模云服务商的合作关系。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。