谈到Arm芯片在云端环境的部署,大部分讨论都集中在效率、核心密度和性能可预测性等方面。
然而,亚马逊云科技认为,其Arm芯片完全可以在性能和性价比方面也表现出强大的竞争力,特别是Graviton 3E处理器甚至有望在向来以要求严苛著称的HPC市场上一展身手。
AWS于2022年初展示了其第三代Graviton处理器。这款包含550亿晶体管的芯片封装有64个运行频率为2.6 GHz的Arm兼容核心,并由速度更快的DDR5内存提供300 GB/秒的内存带宽。随后于2022年11月,这家云巨头又推出了Graviton 3E,新产品针对HPC和网络作业进行了调整,面向浮点与向量数学做出优化。亚马逊表示,该芯片的浮点和向量计算性能提升了约35%,而在Linpack基准测试中的性能约为标准版Graviton 3的两倍。
除CPU之外,亚马逊还展示了更新之后的Elastic Fabric Adapter (EFA) 低延迟网络接口,用于将多个Graviton实例对接起来。
这两款产品都将登陆AWS Hpc7g实例,具体提供三种SKU,分别向客户开放16、32和64个Graviton 3E核心。除核心数量之外,这些实例的其他配置基本相同,均支持Amazon Elastic Block Storage服务、配备128 GB DDR5内存,以及由EFA提供的200 Gb/秒网络。
根据亚马逊的介绍,这种同质化设计是有意为之。他们的想法是在核心数较少的实例中,客户可以调整各核心所对应的特定内存或网络带宽比率。另外,这样的实例规模设计,可能也更适合那些需要遵循特定许可条款的软件用户。
与亚马逊云科技此前提供的AMD和英特尔芯片版Hpc6实例一样,AWS希望客户能像使用集群节点一样使用这些实例,而非将其作为独立的虚拟机。在发布公告中,亚马逊方面提到了Hpc7g实例可支撑起需要“数万个核心”的工作负载,看来他们已经做好了交付大规模集群设施的准备。
当然,亚马逊并不是第一家尝试将Arm核心同HPC工作负载相融合的公司。日本RIKEN实验室的Fugaku超级计算机采用的也是基于Arm的48核富士通A64FX处理器,其拥有出色的向量计算性能,已连续两年稳居超算Top500榜首。
亚马逊表示,他们正与RIKEN合作开发可在Hpc7g实例上运行的“虚拟Fugaku”,用以支持该研究所对计算资源的更多需求。
亚马逊的Hpc7g实例在初上线时仍将受到一定限制。该公司表示,实例集群仅限于同一可用区内,且首批发布将只登陆位于北弗吉尼亚州的美国东部区域。
好文章,需要你的鼓励
韩国科学技术院研究团队提出"分叉-合并解码"方法,无需额外训练即可改善音视频大语言模型的多模态理解能力。通过先独立处理音频和视频(分叉阶段),再融合结果(合并阶段),该方法有效缓解了模型过度依赖单一模态的问题,在AVQA、MUSIC-AVQA和AVHBench三个基准测试中均取得显著性能提升,特别是在需要平衡音视频理解的任务上表现突出。
这项研究利用大语言模型解决科学新颖性检测难题,南洋理工大学团队创新性地构建了闭合领域数据集并提出知识蒸馏框架,训练轻量级检索器捕捉想法层面相似性而非表面文本相似性。实验表明,该方法在市场营销和NLP领域显著优于现有技术,为加速科学创新提供了有力工具。
un?CLIP是一项创新研究,通过巧妙反转unCLIP生成模型来增强CLIP的视觉细节捕捉能力。中国科学院研究团队发现,虽然CLIP在全局图像理解方面表现出色,但在捕捉细节时存在不足。他们的方法利用unCLIP生成模型的视觉细节表示能力,同时保持与CLIP原始文本编码器的语义对齐。实验结果表明,un?CLIP在MMVP-VLM基准、开放词汇语义分割和视觉中心的多模态任务上显著优于原始CLIP和现有改进方法,为视觉-语言模型的发展提供了新思路。
这项研究介绍了RPEval,一个专为评估大语言模型角色扮演能力而设计的新基准。研究团队从法国里尔大学开发的这一工具专注于四个关键维度:情感理解、决策制定、道德对齐和角色一致性,通过单轮交互实现全自动评估。研究结果显示Gemini-1.5-Pro在总体表现上领先,而GPT-4o虽在决策方面表现出色,但在角色一致性上存在明显不足。这一基准为研究人员提供了一个可靠、可重复的方法来评估和改进大语言模型的角色扮演能力。