至顶网软件频道消息: 谷歌公司日前推出可抢占式GPU(Preemptible GPU), 谷歌称抢占式GPU对于在公有云里运行人工智能项目的机构来说是一种更实惠的方式。
谷歌发布的可抢占式GPU提升了旗下基础架构即服务平台的功能,可抢占式GPU是一种用于运行机器学习工作负载的按需图形处理单元。
用户可选择Nvidia公司的K80或P100型号的芯片,二者均广泛用于机器学习,原因是K80或P100可以并行处理大量的数据,例如处理用于训练的数据和运行各种算法。据谷歌说,两者的价格比标准计算实例中的租用价格低50%。
原因是这些GPU置于所谓的抢占式虚拟机里,抢占式虚拟机是谷歌2015年推出的低成本虚拟机。这些虚拟机是利用软件仿真的计算机,具有更高的灵活性和更低的成本。虚拟机在谷歌云端数据中心里未被使用的硬件上运行。因此,这些虚拟机的费用比用通常方式购买的实例要低得多。
不过,由于各数据中心的繁忙程度不一样,可提供给用户的可抢占式虚拟机和可抢占式GPU的数量也不一样。因此,谷歌只允许客户租用最多24小时。而且,如果其他地方需要基础架构资源,谷歌可能会提前关闭实例或GPU。而在这种情况下,系统只会提前30秒发出通知,让应用程序可以安全地结束。
因此,抢占式GPU主要用于无需连续型的工作负载。抢占式GPU对于AI项目的训练阶段应该是一个特别有吸引力的选择。AI项目的训练阶段出现在应用程序投入生产之前,并且往往需要大量的计算资源。毫无疑问,如果能实质性地节省成本,许多公司肯定愿意忍受偶然中断的麻烦。
谷歌11月曾将图形加速器的价格下调了36%,可抢占GPU的50%折扣真可是锦上添花。云领导者亚马逊网络服务公司(Amazon Web Services Inc.)推出的现货实例(Spot instance)同样也是以折扣方式将未使用的数据中心容量提供给用户,但用 的方法不同。谷歌则推出可抢占虚拟机应对。
Nvidia K80芯片可抢占GPU起价为每小时22美分,Nvidia P100芯片可抢占GPU起价为每小时73美分。
好文章,需要你的鼓励
苹果Mail应用长期饱受搜索功能羸弱的诟病。iOS 27有望彻底改变这一局面。新版本引入全新排名系统,将最相关的结果优先呈现,即便邮件深埋收件箱也能快速找到。更关键的是,新搜索能理解用户意图,而非仅匹配关键词。该功能可能与Siri及AI升级深度整合,目前已在测试版中亮相,正式版将于今秋推出。
耶鲁大学等机构2026年发布的研究揭示:Muon优化器训练大语言模型比Adam快约两倍,核心原因在于其谱归一化更新方向具有更低的归一化方向锐度,从而降低了每步的曲率代价。
据就业咨询机构Challenger, Gray & Christmas数据,2026年5月美国科技公司宣布裁员38,242人,为2024年8月以来单月最高。今年已累计裁员123,653人,同比增长66%。AI已成为企业裁员的首要原因,占5月全行业裁员总数的40%,较1月的7%大幅攀升。今年重大裁员事件包括:HPE削减2,500个职位、Meta裁员8,000人,Oracle亦宣布裁减开发人员。
这项研究提出用形式化语言Lean4对AI工作流做三层验证,验证通过的工作流比未通过的平均性能高出近12%,配合自动修复机制可再提升约7.5%。