近日微软表示,ND H100 v5虚拟机系列将在Azure云平台上全面上市,为客户提供训练和运行大模型所需的强大计算基础设施。
此外,微软还扩展了Azure OpenAI服务,客户可以通过该服务探索来自ChatGPT创建者OpenAI LP的、最先进的人工智能模型。该公司表示,Azure OpenAI现已在全球多个地区推出。
微软的ND H100 v5 虚拟机似乎是该公司迄今为止最强大的计算产品之一。这些虚拟机现已在Azure的美国东区和西部地区上市,配备了八个英伟达最新、最强大的 H100 GPU。
英伟达去年推出了H100 GPU,并表示它们采用了全新的Hopper架构。与用于训练原始ChatGPT 的Nvidia A100 GPU相比,H100 GPU的处理能力要高出几个数量级。
英伟达在推出H100 GPU时曾表示,H100 GPU的优势在于它们能提供比上一代GPU“更快的AI 模型性能”。ND H100 v5实例还采用了英特尔最新的第四代英特尔至强可扩展中央处理器,并通过英伟达的Quantum-2 CX7 InfiniBand技术实现了低延迟联网。它们还采用了PCIe Gen5,为每个GPU提供每秒64千兆字节的带宽,并采用了DDR5内存,实现了更快的数据传输速度,用以处理最大的人工智能训练数据集。
微软在大力宣传ND H100 v5实例的性能,比如矩阵乘法运算速度将提高六倍,大语言模型(如 OpenAI 的 GPT-BLOOM 175B)的推理速度将提高1.8倍,并承诺明年将向客户提供数十万个H100 GPU。
ND H100 v5虚拟机针对的是生成式人工智能工作负载,因此微软同时扩展Azure OpenAI服务是完全合理的,该服务可直接访问OpenAI的尖端人工智能模型GPT-4和GPT-35-Turbo。Azure OpenAI服务于今年1月推出,最初只在Azure的美国东部、法国中部、美国中南部和欧洲西部地区提供,但现在已经扩展到加拿大东部、美国东部2区、日本东部和英国南部。
Constellation Research的Holger Mueller表示,微软对扩大其人工智能产品的规模并使其更强大充满热情,并希望其得到更广泛的应用。他表示:“微软希望向更多客户提供OpenAI,并提供基于英伟达产品的虚拟机,供客户运行自定义的AI模型并以此盈利。”“推出的速度、可及性和稳定性是客户采用的关键,因为很多企业由于数据驻留和安全要求而被束缚在特定区域。”
微软表示,Azure OpenAI 服务已经得到了11000多家企业客户采用,而新用户在以每天约100家的速度增长。
微软Azure HPC、人工智能、SAP和机密计算总经理Nidhi Chappell表示:“作为此次扩展的一部分,我们将在新的地区扩大我们最先进的生成式人工智能模型GPT-4的可及性。”“这一改进能够让更多的客户能够利用GPT-4的功能来实现内容生成、文档智能、客户服务等功能。”
好文章,需要你的鼓励
Hugging Face推出开源工具Yourbench,允许企业创建自定义基准来评估AI模型在其内部数据上的表现。这一工具通过复制大规模多任务语言理解基准的子集,以极低成本实现了对模型性能的精确评估。Yourbench的出现为企业提供了更贴合实际需求的AI模型评估方法,有望改善模型评估的方式。
Cognition AI 推出 Devin 2.0,这是其 AI 驱动的软件开发平台的更新版本。新版本引入了多项功能,旨在提升开发者与自主代理之间的协作效率。最引人注目的是,Devin 2.0 的起价从每月 500 美元大幅下调至 20 美元,使其更易于普及。新功能包括并行 Devin、交互式规划、代码库搜索等,有望提升开发效率并增强用户控制。
安迪·卡拉布蒂斯是一位杰出的CIO,她的职业生涯横跨多个行业和地区,经历了多次变革时刻。她在福特和通用汽车锻炼了领导力和技术专长,后来在戴尔、拜奥根和国家电网等公司担任高管,推动战略创新。本文总结了她对IT领导者核心技能的见解,包括战略沟通、情商、协作、远见卓识、变革管理和敏捷性等,对当今IT领导者具有重要参考价值。
边缘 AI 计算将使人形机器人、智能设备和自动驾驶等应用从数据中心和云端服务器解放出来,转移到制造车间、手术室和城市中心等场景。它能实现低延迟和自主决策,使 AI 无处不在,推动工业设施全面自动化,彻底改变商业和生活方式。边缘 AI 正在快速发展,各大科技公司纷纷推出相关硬件和软件平台,未来将为各行各业带来巨大变革。