谷歌今天宣布向其公有云平台上增加ensor Processing Units,这是一款专门为人工智能工作负载提供动力的内部设计的芯片系列。
一个TPU(如图所示)由四个专用集成电路组成,配有64GB的“超高带宽”内存。这一组合单元可以提供高达180 teraflops的性能。今年晚些时候,谷歌计划增加一个集群选项,让云客户将多个TPU聚合成一个“Pod”,速度达到petaflop的范围(是teraflop的1000倍)。
在今天的公告中谷歌并没有分享更多的性能细节。不过,去年谷歌的两位顶级工程师写的一篇博客文章显示,当时内部使用的Pod包括64个TPU,总吞吐为11.5 petaflops。相比之下,世界上功能最强大的超级计算机可以达到93 petaflops,但值得注意的是,谷歌很可能没有使用相同的基准测试方法来测量TPU的速度。
无论哪种方式,这些芯片都是Google云平台的一个重要补充。当谷歌于去年4月首次向全世界展示TPU规格的时候,它透露该芯片至少可以运行某些机器学习工作负载,比现有的芯片快15至30倍。这就包括特别适合用于机器学习模型的GPU。GPU的主要制造商包括Nvidia和AMD公司,这两家公司仍然是当今大多数项目的首选。
因此,谷歌的云客户应该能够更快速地培训和运行他们的人工智能软件。谷歌表示,一个TPU可用于在一天之内实施主流ResNet-50图像分类模型,达到可接受的精确度水平。
谷歌已经创建了几个预先优化的神经网络包,让客户可以将其运行在TPU上,其中包括一个ResNet-50版本,以及用于机器翻译、语言建模和识别图像内物体的模型。企业客户也可以使用谷歌的开源TensorFlow机器学习引擎创建自己的人工智能工作负载。
喜欢使用传统图形卡进行人工智能项目的客户,今天也看到了一项新的功能。谷歌为其Kubernetes Engine服务添加了GPU支持,以允许将机器学习模型打包到软件容器中。后一种技术提供了一个轻量级抽象层,使开发人员能够更轻松地推出更新并跨环境迁移应用。
这个新的TPU价格为每小时每单元6.50美元,而通过Kubernetes Engine租赁的GPU将按谷歌现有的每种支持芯片型号收费。
这种芯片对于各种人工智能任务、特别是对于一些计算机工作负载而言的就绪情况,仍然不明确。Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“TPU是一个很好的试水方式,但并一定适合于运行生产工作负载。GPU是进行训练的最佳方式。锁定到TPU,意味着被GCP和TensorFlow锁定。”
而且谷歌也不是唯一追求自主开发人工智能芯片的公司。芯片巨头英特尔公司一直在推销其最新用于人工智能工作负载的CPU,以及称为FPGA的定制芯片。
据The Information报道称,亚马逊公司正在开发自己的人工智能芯片,该芯片可以帮助其Echo智能音箱和其他使用其Alexa数字助理的硬件在设备上执行更多处理任务,以便它可以比调用云的响应速度更快。
好文章,需要你的鼓励
OpenAI 本周为 ChatGPT 添加了 AI 图像生成功能,用户可直接在对话中创建图像。由于使用量激增,CEO Sam Altman 表示公司的 GPU "正在融化",不得不临时限制使用频率。新功能支持工作相关图像创建,如信息图表等,但在图像编辑精确度等方面仍存在限制。值得注意的是,大量用户正在使用该功能创作吉卜力动画风格的图像。
Synopsys 近期推出了一系列基于 AMD 最新芯片的硬件辅助验证和虚拟原型设计工具,包括 HAPS-200 原型系统和 ZeBu-200 仿真系统,以及面向 Arm 硬件的 Virtualizer 原生执行套件。这些创新工具显著提升了芯片设计和软件开发的效率,有助于加快产品上市速度,满足当前 AI 时代下快速迭代的需求。
人工智能正在深刻改变企业客户关系管理 (CRM) 的方方面面。从销售自动化、营销内容生成到客服智能化,AI不仅提升了运营效率,还带来了全新的服务模式。特别是自主代理AI (Agentic AI) 的出现,有望在多渠道无缝接管客户服务职能,开创CRM发展新纪元。
数据孤岛长期困扰着组织,影响着人工智能的可靠性。它们导致信息分散、模型训练不完整、洞察力不一致。解决方案包括实施强大的数据治理、促进跨部门协作、采用现代数据集成技术等。克服数据孤岛对于充分发挥AI潜力至关重要。