ZD至顶网软件频道消息:微软在亚特兰大召开的Ignite大会上宣布,该公司现在已经在使用Intel Altera Field Programmable Gate Arrays (FPGA)芯片来加速Azure服务了。
FPGA芯片的目标是将硬件的性能优势和软件的灵活性结合起来。它们集成了可以重新配置的电路,这些电路在生产出来之后,可以通过下载新的硬件配置进行重新配置,因此实现了“现场可编程”。
始于2010年的微软Catapult项目是一个通过该公司数据中心的FPGAs网络加速云计算的项目。
现在该公司宣布它指的是全世界最大的FPGA部署项目。在三年左右的时间里,微软已经在其安装的每一台服务器中包含了Altera FPGA。Altera这家专业的FPGA厂商于2015年被英特尔收入囊中。这个FPGA网络将被用于加速人工智能等服务。
微软表示目前的计划是在五个大洲部署十五个国家,不过该公司没有透露进一步的细节。比较新的数据中心,例如最近在英国开张的数据中心可能会适当地配备这种技术。
微软杰出工程师Doug Burger对《The Reg》表示,“真正重要的是我们已经如何构建了这个系统。”他表示,“FPGA直接介于服务器和网络之间,所以所有的通信都会通过它。CPU可以通过PCIe和它对话,但是FPGA也可以通过网络彼此对话。所以在某种意义上,它是一种被插入到我们的云平台之中的、新型计算机。这一层可以组网,可以做人工智能,它还可以做其他的事情。这是一种结构上的重大改变。”
所有的网络通信都要通过FPGA这一事实让微软能够在某种程度上独立于服务器使用FPGA而不总是需要通过主机服务器。同时,这种设计带来了新的风险,因为bug和故障会影响到整个系统。Burger表示,这是最关键的挑战。
“你是在一个非常成熟的系统中投入了一种外来技术。所有的网络通信都要通过它。如果你搞砸了,你就会造成实实在在的损害。你想想大规模可靠性、故障诊断、健康监测、调试、版本管理、软件包管理,所有的这一切都需要内置于平台之中。没有人已经做到了这么大的规模。”
不过好处是对于某些特定任务的大幅度提速。Burger表示,“如果你成功部署了FPGA,提速的幅度将在10倍到1000倍之间。通常这个数值会略微超过10倍。”
微软允许开发人员上传他们自己的FPGA映像运行在Azure之上吗?Burger表示,“这是潜在的业务。”他表示,“不过我们还没有宣布任何实现它的计划或者时间表。”
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。