不少解决方案提供商看好AWS投入巨资打造专门针对AWS基础设施优化芯片的计划,该计划将使合作伙伴在AI市场竞争中占据优势,因为电力成本更低,供应链优势更大。
“我们已经看到AI的大量应用,而且企业意识到,‘哦,芯片不仅价格昂贵,而且天哪,它们消耗了这么多能源’,所以电费也在飞涨,”AWS合作伙伴公司ClearScale的首席执行官Jimmy Chui表示。
“所以你可以想象,在一个巨大的数据中心里,一切都在高速运转,高速处理——你会非常非常快地消耗掉电力,”Chui说。
例如,Oracle正致力于通过核反应堆为其数据中心供电,以满足AI的电力需求。
“我们找到的位置和发电厂已经获得了三座核反应堆的建设许可,”Oracle董事长、联合创始人Larry Ellison在本周举行的季度财报电话会议上这样表示。“这些都是为数据中心供电的小型模块化核反应堆。这真是太疯狂了。”
AWS首席执行官Matt Garman表示,AWS这家规模达1050亿美金的云计算公司将继续构建自己的AI芯片组,而且将其与庞大的基础设施放在一起进行优化。
“我们不必构建这些处理器以运行在通用环境中。它们将完全运行在我们的服务器、数据中心和网络堆栈中,因此我们可以为客户进行优化,我们可以疯狂地优化这一点,而且我们有一个非常优秀的芯片制造团队。”
自主研发的AWS芯片将促进供应链
ClearScale首席执行官表示,随着AWS自主研发AI处理器,供应链问题对客户的影响将变得越来越小。
由于全球企业客户的需求量很大,IT行业一直受到AI处理器相关供应链短缺问题的困扰。
Chui表示:“他们具有购买和设计这些芯片的能力,同时也能在供应方面确保顺利。”
“我们已经看到,特别是在AI领域,这些超高性能芯片有订单积压是因为他们无法让这些芯片速度足够快。在这方面,AWS自己的芯片将是非常有利的,特别是在这些AI工作负载增加的情况下,”Chui说。
AWS合作伙伴PTP的管理合伙人Ethan Simmons也认为,AWS自主研发的AI处理器将有助于客户降低成本并获得AI芯片。他说:“出于各种原因,拥有AI硬件是非常重要的,只有像AWS这样的企业才能做到这一点,我很高兴[AWS首席执行官Garman]专注于正确的事情上。”
AWS CEO:“拥有自己的定制处理器可以帮助客户省钱”
近年来,AWS将注意力转向了打造AI处理器,例如AWS Inferentia机器学习芯片和Trainium ML处理器,用于训练深度学习模型。
AWS最初决定内部开发定制芯片是为了通过Nitro支持其虚拟化技术并能够影响客户成本。
Garman说:“这意味着我们不必从第三方购买这些芯片,从而能够降低成本。我们认为,在某些情况下,我们自己的定制处理器可以帮助客户省钱。”
AWS还和英特尔、AMD以及Nvidia等全球最具创新性的、最大的芯片制造商建立了紧密的合作伙伴关系。
“我们坚信,AWS是运行英特尔、AMD和Nvidia处理器的最佳场所,我们认为,通过提供我们自己的处理器,我们可以打造出一些具有差异化的功能,”Garman说道。
AWS在竞争中领先
ClearScale公司的Chui表示,AWS专门为AWS新AI服务设计的芯片是“极其重要的”,就像它为AWS平台和云服务设计芯片时一样。
AWS目前在AI方面处于领先地位,因为大多数其他竞争对手和厂商只是专注于AI实验或最初用例。
“我们都在尝试AI或者尝试进入AI领域。现在正是打造属于自己的芯片的好时机,这种芯片非常高效,可以运行在特定的基础设施上,降低成本。因为一旦现在正在尝试的人都开始行动起来,并将其投入生产,我们可能会看到能源使用和成本呈现爆炸态势,”Chui说道。
AWS计划在今年年底推出新的Trainium2处理器。
Garman表示:“我们对该平台感到非常兴奋,认为我们有机会大幅降低客户成本,同时提高性能。”
好文章,需要你的鼓励
大众汽车旗下ID. Polo与Cupra Raval已在西班牙马托雷尔工厂正式下线投产。两款车型起售价分别为24,995欧元和26,000欧元,均基于MEB+平台打造,搭载37kWh或52kWh电池组,续航里程最高可达454公里。这是大众"电动城市车家族"系列的首批产品,预计今年夏末秋初开始交付。大众集团通过跨品牌资源整合,实现约6亿欧元的成本节约,后续还将推出ID. Cross等新成员。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
三星宣布将于6月8日起为Samsung Health应用推出重磅功能更新,赶在Galaxy Watch 9传闻发布之前落地。新版本将引入多项AI驱动的生物特征分析功能,包括:综合心率、血氧、皮肤温度等数据的每日活力评分(Vitals)、结合体成分数据评估长期心脏健康的心脏健康评分、优化训练强度的每日有氧负荷追踪,以及横向对比用户群体的健身指数。此外,应用界面将重新划分为睡眠、营养、活动、正念和体征五大板块,并新增抗氧化指数、年龄指数和听力保护等个性化功能。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。