本周一,AWS在re:Invent大会有关基础设施的主题演讲中,展示了用于Elastic Compute Cloud的新CPU芯片硬件,新版本的Nitro管理程序,以及支持该芯片的实例。
Amazon表示,全新的Graviton3E芯片是对Graviton系列产品线的升级,与标准Graviton3相比具有显着的性能改进,在基于矢量的工作负载上性能有35%的提升。
AWS效用计算高级副总裁Peter DeSantis(如图)在主题演讲中解释说,该芯片在用于生命科学和金融建模等方面时有更突出的表现,并且针对矢量工作负载和浮点工作负载进行了优化,这些工作负载在高性能计算领域很常见,尤其是涉及金融、天气预报、生命科学、材料科学和化学等大规模数据建模的研究。
基于Arm定制处理器的Graviton系列是由AWS开发的,旨在以更低的成本在EC2中为客户提供卓越的高性能计算。Graviton3在运行某些应用时的性能水平比Graviton2高出80%,甚至显着改善了加密和视频编码。
而此次推出的Graviton3E,将支持一套全新的EC2实例,包括即将推出的HPC7G实例,用于200 GB专用网络带宽的高性能计算工作负载。该实例有多种配置选择,最多64个虚拟CPU和128GiB内存,不过这些实例要到2023年才会上线。
Graviton3E处理器还将可用于C7gn实例,该实例主要针对网络密集型工作负载,例如虚拟网络设备——防火墙、虚拟路由器、负载均衡器和类似服务——数据分析和紧密耦合的计算集群。Graviton3E能够支持200 Gbps的网络带宽,数据包性能提高200%。这些实例今天已经推出了预览版。
DeSantis解释说,这两个新的实例都将采用今天发布的Nitro 5硬件管理程序,这款新的第五代Nitro卡几乎将板载计算能力翻了一番,同时DRAM带宽增加了50%,每秒数据包增加60%,延迟降低30%,每瓦性能提高40%。
DeSantis表示,有了新的Nitro,C7gn实例将以最低延迟和最高吞吐量实现数据包处理性能高达50%的提升。
据他称,之所以能够做到这一点,是因为AWS团队将Nitro定制芯片上的晶体管数量增加了一倍。
好文章,需要你的鼓励
2025年,企业技术高管面临巨大压力,需要帮助企业从持续的AI投入中获得回报。大多数高管取得了进展,完善了项目优先级排序方法。然而,CIO仍面临AI相关问题。支离破裂的AI监管环境和宏观经济阻力将继续推动技术高管保持谨慎态度。随着AI采用增长的影响不断显现,一些CIO预期明年将带来劳动力策略变化。
这篇论文提出了CJE(因果法官评估)框架,解决了当前LLM评估中的三大致命问题:AI法官偏好倒置、置信区间失效和离线策略评估失败。通过AutoCal-R校准、SIMCal-W权重稳定和OUA不确定性推理,CJE仅用5%的专家标签就达到了99%的排名准确率,成本降低14倍,为AI评估提供了科学可靠的解决方案。
FinOps基金会周四更新了其FinOps开放成本和使用规范云成本管理工具,新版本1.3更好地支持多供应商工作流。该版本新增了合同承诺和协商协议数据集,增加了跨工作负载成本分摊跟踪列,以及云支出和使用报告时效性和完整性的元数据可见性。随着云和AI采用推动企业IT预算增长,技术供应商正在关注将成本与价值联系起来的努力。大型企业通常使用三到四家云供应商,小企业可能使用两家,同时还有数据中心、SaaS和许可等服务。
NVIDIA团队开发出Fast-FoundationStereo系统,成功解决了立体视觉AI在速度与精度之间的两难选择。通过分而治之的策略,该系统实现了超过10倍的速度提升同时保持高精度,包括知识蒸馏压缩特征提取、神经架构搜索优化成本过滤,以及结构化剪枝精简视差细化。此外,研究团队还构建了包含140万对真实图像的自动伪标注数据集,为立体视觉的实时应用开辟了新道路。