ZD至顶网软件频道消息:微软在亚特兰大召开的Ignite大会上宣布,该公司现在已经在使用Intel Altera Field Programmable Gate Arrays (FPGA)芯片来加速Azure服务了。
FPGA芯片的目标是将硬件的性能优势和软件的灵活性结合起来。它们集成了可以重新配置的电路,这些电路在生产出来之后,可以通过下载新的硬件配置进行重新配置,因此实现了“现场可编程”。
始于2010年的微软Catapult项目是一个通过该公司数据中心的FPGAs网络加速云计算的项目。
现在该公司宣布它指的是全世界最大的FPGA部署项目。在三年左右的时间里,微软已经在其安装的每一台服务器中包含了Altera FPGA。Altera这家专业的FPGA厂商于2015年被英特尔收入囊中。这个FPGA网络将被用于加速人工智能等服务。
微软表示目前的计划是在五个大洲部署十五个国家,不过该公司没有透露进一步的细节。比较新的数据中心,例如最近在英国开张的数据中心可能会适当地配备这种技术。
微软杰出工程师Doug Burger对《The Reg》表示,“真正重要的是我们已经如何构建了这个系统。”他表示,“FPGA直接介于服务器和网络之间,所以所有的通信都会通过它。CPU可以通过PCIe和它对话,但是FPGA也可以通过网络彼此对话。所以在某种意义上,它是一种被插入到我们的云平台之中的、新型计算机。这一层可以组网,可以做人工智能,它还可以做其他的事情。这是一种结构上的重大改变。”
所有的网络通信都要通过FPGA这一事实让微软能够在某种程度上独立于服务器使用FPGA而不总是需要通过主机服务器。同时,这种设计带来了新的风险,因为bug和故障会影响到整个系统。Burger表示,这是最关键的挑战。
“你是在一个非常成熟的系统中投入了一种外来技术。所有的网络通信都要通过它。如果你搞砸了,你就会造成实实在在的损害。你想想大规模可靠性、故障诊断、健康监测、调试、版本管理、软件包管理,所有的这一切都需要内置于平台之中。没有人已经做到了这么大的规模。”
不过好处是对于某些特定任务的大幅度提速。Burger表示,“如果你成功部署了FPGA,提速的幅度将在10倍到1000倍之间。通常这个数值会略微超过10倍。”
微软允许开发人员上传他们自己的FPGA映像运行在Azure之上吗?Burger表示,“这是潜在的业务。”他表示,“不过我们还没有宣布任何实现它的计划或者时间表。”
好文章,需要你的鼓励
OpenAI和微软宣布签署一项非约束性谅解备忘录,修订双方合作关系。随着两家公司在AI市场竞争客户并寻求新的基础设施合作伙伴,其关系日趋复杂。该协议涉及OpenAI从非营利组织向营利实体的重组计划,需要微软这一最大投资者的批准。双方表示将积极制定最终合同条款,共同致力于为所有人提供最佳AI工具。
中山大学团队针对OpenAI O1等长思考推理模型存在的"长度不和谐"问题,提出了O1-Pruner优化方法。该方法通过长度-和谐奖励机制和强化学习训练,成功将模型推理长度缩短30-40%,同时保持甚至提升准确率,显著降低了推理时间和计算成本,为高效AI推理提供了新的解决方案。
中国科技企业发布了名为R1的人形机器人,直接对标特斯拉的Optimus机器人产品。这款新型机器人代表了中国在人工智能和机器人技术领域的最新突破,展现出与国际巨头竞争的实力。R1机器人的推出标志着全球人形机器人市场竞争进一步加剧。
上海AI实验室研究团队深入调查了12种先进视觉语言模型在自动驾驶场景中的真实表现,发现这些AI系统经常在缺乏真实视觉理解的情况下生成看似合理的驾驶解释。通过DriveBench测试平台的全面评估,研究揭示了现有评估方法的重大缺陷,并为开发更可靠的AI驾驶系统提供了重要指导。