谷歌今天宣布向其公有云平台上增加ensor Processing Units,这是一款专门为人工智能工作负载提供动力的内部设计的芯片系列。
一个TPU(如图所示)由四个专用集成电路组成,配有64GB的“超高带宽”内存。这一组合单元可以提供高达180 teraflops的性能。今年晚些时候,谷歌计划增加一个集群选项,让云客户将多个TPU聚合成一个“Pod”,速度达到petaflop的范围(是teraflop的1000倍)。
在今天的公告中谷歌并没有分享更多的性能细节。不过,去年谷歌的两位顶级工程师写的一篇博客文章显示,当时内部使用的Pod包括64个TPU,总吞吐为11.5 petaflops。相比之下,世界上功能最强大的超级计算机可以达到93 petaflops,但值得注意的是,谷歌很可能没有使用相同的基准测试方法来测量TPU的速度。
无论哪种方式,这些芯片都是Google云平台的一个重要补充。当谷歌于去年4月首次向全世界展示TPU规格的时候,它透露该芯片至少可以运行某些机器学习工作负载,比现有的芯片快15至30倍。这就包括特别适合用于机器学习模型的GPU。GPU的主要制造商包括Nvidia和AMD公司,这两家公司仍然是当今大多数项目的首选。
因此,谷歌的云客户应该能够更快速地培训和运行他们的人工智能软件。谷歌表示,一个TPU可用于在一天之内实施主流ResNet-50图像分类模型,达到可接受的精确度水平。
谷歌已经创建了几个预先优化的神经网络包,让客户可以将其运行在TPU上,其中包括一个ResNet-50版本,以及用于机器翻译、语言建模和识别图像内物体的模型。企业客户也可以使用谷歌的开源TensorFlow机器学习引擎创建自己的人工智能工作负载。
喜欢使用传统图形卡进行人工智能项目的客户,今天也看到了一项新的功能。谷歌为其Kubernetes Engine服务添加了GPU支持,以允许将机器学习模型打包到软件容器中。后一种技术提供了一个轻量级抽象层,使开发人员能够更轻松地推出更新并跨环境迁移应用。
这个新的TPU价格为每小时每单元6.50美元,而通过Kubernetes Engine租赁的GPU将按谷歌现有的每种支持芯片型号收费。
这种芯片对于各种人工智能任务、特别是对于一些计算机工作负载而言的就绪情况,仍然不明确。Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“TPU是一个很好的试水方式,但并一定适合于运行生产工作负载。GPU是进行训练的最佳方式。锁定到TPU,意味着被GCP和TensorFlow锁定。”
而且谷歌也不是唯一追求自主开发人工智能芯片的公司。芯片巨头英特尔公司一直在推销其最新用于人工智能工作负载的CPU,以及称为FPGA的定制芯片。
据The Information报道称,亚马逊公司正在开发自己的人工智能芯片,该芯片可以帮助其Echo智能音箱和其他使用其Alexa数字助理的硬件在设备上执行更多处理任务,以便它可以比调用云的响应速度更快。
好文章,需要你的鼓励
OpenAI推出企业级智能体平台ChatGPT Work,可跨应用自动执行多步骤工作任务,生成文档、演示文稿及电子表格等业务内容。同步推出的GPT-5.6系列模型涵盖Sol、Terra、Luna三档,主打"更低成本、更强性能"。Sol在编码、网络安全及复杂推理基准测试中表现突出,定价为每百万输入tokens 5美元。新模型还支持Microsoft 365、Google Drive等企业应用集成,并引入max与ultra两种推理模式以应对复杂工作负载。
斯坦福与UC伯克利提出LLM-as-a-Verifier框架,通过提取AI模型内部概率分布生成连续评分,在代码、机器人、医疗领域均达到最优性能,且无需额外训练。
大疆发布AP100降落伞,专为旗舰级Matrice 400企业无人机设计。该配件重约935克,支持自动与手动两种部署方式,可在600毫秒内触发展开,将无人机下降速度控制在每秒5米以内。AP100作为独立安全模块运行,配备独立飞控、传感器及备用电容,断电后仍可持续工作一小时。此外,内置飞行终止系统可在展开前切断电机,防止螺旋桨缠绕。该配件还支持欧盟EASA和英国CAA的C5/C6等级合规认证,适用于超视距飞行任务,防护等级IP55,适应-20°C至50°C宽温环境。
字节跳动Seed团队发现AI智能体在真实环境中学习的进步曲线精确遵循对数S形规律,R?达0.998,且前沿模型的学习速度每三个月翻倍。