谈到Arm芯片在云端环境的部署,大部分讨论都集中在效率、核心密度和性能可预测性等方面。
然而,亚马逊云科技认为,其Arm芯片完全可以在性能和性价比方面也表现出强大的竞争力,特别是Graviton 3E处理器甚至有望在向来以要求严苛著称的HPC市场上一展身手。
AWS于2022年初展示了其第三代Graviton处理器。这款包含550亿晶体管的芯片封装有64个运行频率为2.6 GHz的Arm兼容核心,并由速度更快的DDR5内存提供300 GB/秒的内存带宽。随后于2022年11月,这家云巨头又推出了Graviton 3E,新产品针对HPC和网络作业进行了调整,面向浮点与向量数学做出优化。亚马逊表示,该芯片的浮点和向量计算性能提升了约35%,而在Linpack基准测试中的性能约为标准版Graviton 3的两倍。
除CPU之外,亚马逊还展示了更新之后的Elastic Fabric Adapter (EFA) 低延迟网络接口,用于将多个Graviton实例对接起来。
这两款产品都将登陆AWS Hpc7g实例,具体提供三种SKU,分别向客户开放16、32和64个Graviton 3E核心。除核心数量之外,这些实例的其他配置基本相同,均支持Amazon Elastic Block Storage服务、配备128 GB DDR5内存,以及由EFA提供的200 Gb/秒网络。
根据亚马逊的介绍,这种同质化设计是有意为之。他们的想法是在核心数较少的实例中,客户可以调整各核心所对应的特定内存或网络带宽比率。另外,这样的实例规模设计,可能也更适合那些需要遵循特定许可条款的软件用户。
与亚马逊云科技此前提供的AMD和英特尔芯片版Hpc6实例一样,AWS希望客户能像使用集群节点一样使用这些实例,而非将其作为独立的虚拟机。在发布公告中,亚马逊方面提到了Hpc7g实例可支撑起需要“数万个核心”的工作负载,看来他们已经做好了交付大规模集群设施的准备。
当然,亚马逊并不是第一家尝试将Arm核心同HPC工作负载相融合的公司。日本RIKEN实验室的Fugaku超级计算机采用的也是基于Arm的48核富士通A64FX处理器,其拥有出色的向量计算性能,已连续两年稳居超算Top500榜首。
亚马逊表示,他们正与RIKEN合作开发可在Hpc7g实例上运行的“虚拟Fugaku”,用以支持该研究所对计算资源的更多需求。
亚马逊的Hpc7g实例在初上线时仍将受到一定限制。该公司表示,实例集群仅限于同一可用区内,且首批发布将只登陆位于北弗吉尼亚州的美国东部区域。
好文章,需要你的鼓励
随着大语言模型在人工智能时代展现强大力量,可穿戴设备成为收集人体数据的重要载体。通过实时监测血压、心率、血糖等生命体征,结合AI边缘计算能力,医疗正向个性化转型。基因治疗、数字孪生技术让每个人都能拥有专属的医疗数字化身,实现从"报销型医疗"向"创新循证医疗"的转变,为疾病预防和健康管理带来革命性突破。
哥伦比亚大学研究团队开发了MathBode动态诊断工具,通过让数学题参数按正弦波变化来测试AI的动态推理能力。研究发现传统静态测试掩盖了AI的重要缺陷:几乎所有模型都表现出低通滤波特征和相位滞后现象,即在处理快速变化时会出现失真和延迟。该方法覆盖五个数学家族的测试,为AI模型选择和部署提供了新的评估维度。
在巴黎举办的欧洲开放基础设施峰会期间,专门用一整天时间讨论VMware迁移问题。博通收购VMware后许可证价格上涨,导致客户运营成本大幅增加。开源开发者展示了将VMware虚拟机迁移到开源替代方案的产品。Forrester分析师指出VMware客户对此感到信任破裂。OpenStack等开源解决方案虽然复杂度较高,但提供了健康的开源生态系统替代方案。
这项研究首次发现AI推理模型存在"雪球效应"问题——推理过程中的小错误会逐步放大,导致AI要么给出危险回答,要么过度拒绝正常请求。研究团队提出AdvChain方法,通过训练AI学习"错误-纠正"过程来获得自我纠错能力。实验显示该方法显著提升了AI的安全性和实用性,用1000个样本达到了传统方法15000个样本的效果,为AI安全训练开辟了新方向。