ZD至顶网软件频道消息:微软在亚特兰大召开的Ignite大会上宣布,该公司现在已经在使用Intel Altera Field Programmable Gate Arrays (FPGA)芯片来加速Azure服务了。
FPGA芯片的目标是将硬件的性能优势和软件的灵活性结合起来。它们集成了可以重新配置的电路,这些电路在生产出来之后,可以通过下载新的硬件配置进行重新配置,因此实现了“现场可编程”。
始于2010年的微软Catapult项目是一个通过该公司数据中心的FPGAs网络加速云计算的项目。
现在该公司宣布它指的是全世界最大的FPGA部署项目。在三年左右的时间里,微软已经在其安装的每一台服务器中包含了Altera FPGA。Altera这家专业的FPGA厂商于2015年被英特尔收入囊中。这个FPGA网络将被用于加速人工智能等服务。
微软表示目前的计划是在五个大洲部署十五个国家,不过该公司没有透露进一步的细节。比较新的数据中心,例如最近在英国开张的数据中心可能会适当地配备这种技术。
微软杰出工程师Doug Burger对《The Reg》表示,“真正重要的是我们已经如何构建了这个系统。”他表示,“FPGA直接介于服务器和网络之间,所以所有的通信都会通过它。CPU可以通过PCIe和它对话,但是FPGA也可以通过网络彼此对话。所以在某种意义上,它是一种被插入到我们的云平台之中的、新型计算机。这一层可以组网,可以做人工智能,它还可以做其他的事情。这是一种结构上的重大改变。”
所有的网络通信都要通过FPGA这一事实让微软能够在某种程度上独立于服务器使用FPGA而不总是需要通过主机服务器。同时,这种设计带来了新的风险,因为bug和故障会影响到整个系统。Burger表示,这是最关键的挑战。
“你是在一个非常成熟的系统中投入了一种外来技术。所有的网络通信都要通过它。如果你搞砸了,你就会造成实实在在的损害。你想想大规模可靠性、故障诊断、健康监测、调试、版本管理、软件包管理,所有的这一切都需要内置于平台之中。没有人已经做到了这么大的规模。”
不过好处是对于某些特定任务的大幅度提速。Burger表示,“如果你成功部署了FPGA,提速的幅度将在10倍到1000倍之间。通常这个数值会略微超过10倍。”
微软允许开发人员上传他们自己的FPGA映像运行在Azure之上吗?Burger表示,“这是潜在的业务。”他表示,“不过我们还没有宣布任何实现它的计划或者时间表。”
好文章,需要你的鼓励
生成式AI在电商领域发展迅速,但真正的客户信任来自可靠的购物体验。数据显示近70%的在线购物者会放弃购物车,主要因为结账缓慢、隐藏费用等问题。AI基础设施工具正在解决这些信任危机,通过实时库存监控、动态结账优化和智能物流配送,帮助商家在售前、售中、售后各环节提升可靠性,最终将一次性买家转化为忠实客户。
泰国SCBX金融集团开发的DoTA-RAG系统通过动态路由和混合检索技术,成功解决了大规模知识库检索中速度与准确性难以兼得的难题。系统将1500万文档的搜索空间缩小92%,响应时间从100秒降至35秒,正确性评分提升96%,为企业级智能问答系统提供了实用的技术方案。
存储供应商Qumulo发布多租户架构Stratus,为每个租户提供独立的虚拟环境,通过加密技术和租户专用密钥管理系统实现隔离。该统一文件和对象存储软件支持本地、边缘、数据中心及AWS、Azure等云环境部署。Stratus采用加密隔离技术确保敏感数据安全,同时提供任务关键操作所需的灵活性和效率,帮助联邦和企业客户满足合规要求。
中科院和字节跳动联合开发了VGR视觉锚定推理系统,突破了传统AI只能粗略"看图"的局限。该系统能在推理过程中主动关注图片关键区域,像人类一样仔细观察细节后再得出结论。实验显示VGR在图表理解等任务上性能大幅提升,同时计算效率更高,代表了多模态AI"可视化推理"的重要进展。