至顶网软件频道消息: 谷歌公司日前推出可抢占式GPU(Preemptible GPU), 谷歌称抢占式GPU对于在公有云里运行人工智能项目的机构来说是一种更实惠的方式。
谷歌发布的可抢占式GPU提升了旗下基础架构即服务平台的功能,可抢占式GPU是一种用于运行机器学习工作负载的按需图形处理单元。
用户可选择Nvidia公司的K80或P100型号的芯片,二者均广泛用于机器学习,原因是K80或P100可以并行处理大量的数据,例如处理用于训练的数据和运行各种算法。据谷歌说,两者的价格比标准计算实例中的租用价格低50%。
原因是这些GPU置于所谓的抢占式虚拟机里,抢占式虚拟机是谷歌2015年推出的低成本虚拟机。这些虚拟机是利用软件仿真的计算机,具有更高的灵活性和更低的成本。虚拟机在谷歌云端数据中心里未被使用的硬件上运行。因此,这些虚拟机的费用比用通常方式购买的实例要低得多。
不过,由于各数据中心的繁忙程度不一样,可提供给用户的可抢占式虚拟机和可抢占式GPU的数量也不一样。因此,谷歌只允许客户租用最多24小时。而且,如果其他地方需要基础架构资源,谷歌可能会提前关闭实例或GPU。而在这种情况下,系统只会提前30秒发出通知,让应用程序可以安全地结束。
因此,抢占式GPU主要用于无需连续型的工作负载。抢占式GPU对于AI项目的训练阶段应该是一个特别有吸引力的选择。AI项目的训练阶段出现在应用程序投入生产之前,并且往往需要大量的计算资源。毫无疑问,如果能实质性地节省成本,许多公司肯定愿意忍受偶然中断的麻烦。
谷歌11月曾将图形加速器的价格下调了36%,可抢占GPU的50%折扣真可是锦上添花。云领导者亚马逊网络服务公司(Amazon Web Services Inc.)推出的现货实例(Spot instance)同样也是以折扣方式将未使用的数据中心容量提供给用户,但用 的方法不同。谷歌则推出可抢占虚拟机应对。
Nvidia K80芯片可抢占GPU起价为每小时22美分,Nvidia P100芯片可抢占GPU起价为每小时73美分。
好文章,需要你的鼓励
施耐德电气以“新质服务+产业向‘新’行”为主题,第六次参会,展示全新升级的“新质服务体系”,围绕创新驱动、生态协同和行业赋能三大核心领域,以全新升级的“新质服务体系”,助力中国产业向高端化、智能化、绿色化迈进。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
甲骨文正在成为大规模基础设施供应商的可靠选择。该公司通过AI技术推动应用开发,构建GenAI模型并将智能代理集成到应用套件中。CEO萨弗拉·卡茨透露,公司剩余履约义务达4553亿美元,同比增长4.6倍,并预测OCI收入将从2026财年的180亿美元增长至2030财年的1440亿美元。甲骨文正积极布局AI推理市场,凭借其作为全球最大企业私有数据托管方的优势地位,有望在云计算领域实现重大突破。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。