至顶网软件频道消息: 谷歌今天开始在自己的公有云上提供了一个新的图形加速器,以更好的支持人工智能和虚拟桌面工作负载。
据悉,谷歌采用的芯片是Nvidia的P4,这让谷歌云平台支持的Nvidia GPU数量增加到4个,而且所有这些都是从2017年2月以来添加的。Nvidia扩展其GPU产品线的步伐反映了企业采用人工智能的速度越来越快。
P4的起价为每小时60美分,是4款GPU中价格第二低的。在处理最多4个字节的单精度值时,该芯片可提供5.5 teraflops的性能。
Nvidia还为P4配备了8GB GDDR5内存,专门设计用于GPU。片上芯片内存要比普通内存更快,因为让数据更接近GPU核心,从而减少延迟。
在人工智能部署方面,谷歌认为基于云的P4主要用于机器学习推理,也就是数据处理神经网络在经过适当训练之后可以在生产环境中做的事情,这是一种完全不同的任务,有时候利用更强大的GPU可以实现更好的性能。
P4也适用于虚拟桌面环境。它采用了Grid,这个Nvidia软件可以在多个虚拟机之间分配GPU硬件资源。此外,谷歌还支持合作伙伴Teradici的工具,该工具可以将运行在虚拟机中应用流式传输到员工的本地设备上。
谷歌瞄准的第三种场景是视频流。根据Nvidia的说法,该芯片有3个视频处理引擎,可以实时转码多达35个高清流。
另外,GPU在谷歌的技术战略中扮演着越来越重要的作用,因此Nvidia也成为谷歌的一个重要合作伙伴。话虽如此,但谷歌并不完全依赖于这家AI处理器的芯片制造商。谷歌还支持Tensor Processing Units,这款内部设计的芯片可定制用于运行神经网络,每个神经网络可提供180 teraflops的巨大计算能力。
好文章,需要你的鼓励
购买笔记本电脑时,用户现在需要了解Copilot+ PC、NPU和本地AI处理等新概念。搭载专用神经处理单元(NPU)的Copilot+ PC能提供至少40 TOPS的AI算力,支持实时字幕翻译、视频通话优化、AI图像编辑等功能,同时提升续航表现。戴尔最新产品线涵盖多种选择:Dell 14 Plus适合学生和通勤族,Dell 16 Plus适合多任务办公用户,XPS 14面向轻度创作者,XPS 16则以31小时超长续航和3.6磅轻薄机身成为内容创作者的旗舰之选。
香港科技大学与华为联合提出LISA训练方法,通过让副网络对齐"似然分数",将ControlNet等图像生成模型的训练收敛速度提升逾2.78倍,同时改善图像质量与条件控制精度。
圣安德鲁斯大学博士Henry Legg在《自然》杂志发表同行评审论文,对微软拓扑间隙协议(TGP)框架提出质疑,认为该框架在推断Majorana粒子量子态存在方面存在缺陷,且实验数据分析结论可能有误。微软此前宣称将于2029年实现可扩展量子计算机,并推出Majorana 2芯片。对此,微软坚持立场,表示已发表正式反驳并获《自然》收录,对研发路线图充满信心。
上交大与爱丁堡大学提出InfoKV,将信息熵与注意力权重结合用于KV缓存压缩,让大模型在仅保留12.5%缓存的条件下实现接近甚至超越完整缓存的长推理性能。