谈到Arm芯片在云端环境的部署,大部分讨论都集中在效率、核心密度和性能可预测性等方面。
然而,亚马逊云科技认为,其Arm芯片完全可以在性能和性价比方面也表现出强大的竞争力,特别是Graviton 3E处理器甚至有望在向来以要求严苛著称的HPC市场上一展身手。
AWS于2022年初展示了其第三代Graviton处理器。这款包含550亿晶体管的芯片封装有64个运行频率为2.6 GHz的Arm兼容核心,并由速度更快的DDR5内存提供300 GB/秒的内存带宽。随后于2022年11月,这家云巨头又推出了Graviton 3E,新产品针对HPC和网络作业进行了调整,面向浮点与向量数学做出优化。亚马逊表示,该芯片的浮点和向量计算性能提升了约35%,而在Linpack基准测试中的性能约为标准版Graviton 3的两倍。
除CPU之外,亚马逊还展示了更新之后的Elastic Fabric Adapter (EFA) 低延迟网络接口,用于将多个Graviton实例对接起来。
这两款产品都将登陆AWS Hpc7g实例,具体提供三种SKU,分别向客户开放16、32和64个Graviton 3E核心。除核心数量之外,这些实例的其他配置基本相同,均支持Amazon Elastic Block Storage服务、配备128 GB DDR5内存,以及由EFA提供的200 Gb/秒网络。
根据亚马逊的介绍,这种同质化设计是有意为之。他们的想法是在核心数较少的实例中,客户可以调整各核心所对应的特定内存或网络带宽比率。另外,这样的实例规模设计,可能也更适合那些需要遵循特定许可条款的软件用户。
与亚马逊云科技此前提供的AMD和英特尔芯片版Hpc6实例一样,AWS希望客户能像使用集群节点一样使用这些实例,而非将其作为独立的虚拟机。在发布公告中,亚马逊方面提到了Hpc7g实例可支撑起需要“数万个核心”的工作负载,看来他们已经做好了交付大规模集群设施的准备。
当然,亚马逊并不是第一家尝试将Arm核心同HPC工作负载相融合的公司。日本RIKEN实验室的Fugaku超级计算机采用的也是基于Arm的48核富士通A64FX处理器,其拥有出色的向量计算性能,已连续两年稳居超算Top500榜首。
亚马逊表示,他们正与RIKEN合作开发可在Hpc7g实例上运行的“虚拟Fugaku”,用以支持该研究所对计算资源的更多需求。
亚马逊的Hpc7g实例在初上线时仍将受到一定限制。该公司表示,实例集群仅限于同一可用区内,且首批发布将只登陆位于北弗吉尼亚州的美国东部区域。
好文章,需要你的鼓励
一加正式推出AI功能Plus Mind和Mind Space,将率先在一加13和13R上线。Plus Mind可保存、建议、存储和搜索屏幕内容,并将信息整理到Mind Space应用中。该功能可通过专用按键或手势激活,能自动创建日历条目并提供AI搜索功能。一加还计划推出三阶段AI战略,包括集成大语言模型和个人助手功能,同时将推出AI语音转录、通话助手和照片优化等工具。
北航团队推出Easy Dataset框架,通过直观的图形界面和角色驱动的生成方法,让普通用户能够轻松将各种格式文档转换为高质量的AI训练数据。该工具集成了智能文档解析、混合分块策略和个性化问答生成功能,在金融领域实验中显著提升了AI模型的专业表现,同时保持通用能力。项目已开源并获得超过9000颗GitHub星标。
预计到2035年,数据中心用电需求将增长一倍以上,达到440TWh,相当于整个加利福尼亚州的用电量。AI工作负载预计将占2030年数据中心需求的50-70%。传统冷却系统电机存在功率浪费问题,通常在30-50%负载下运行时效率急剧下降。采用高效率曲线平坦的适配电机可显著降低冷却系统功耗,某大型数据中心通过优化电机配置减少了近4MW冷却功耗,为13500台AI服务器腾出空间,年增收入900万美元。
卢森堡计算机事件响应中心开发的VLAI系统,基于RoBERTa模型,能够通过阅读漏洞描述自动判断危险等级。该系统在60万个真实漏洞数据上训练,准确率达82.8%,已集成到实际安全服务中。研究采用开源方式,为网络安全专家提供快速漏洞风险评估工具,有效解决了官方评分发布前的安全决策难题。