微软新推出的Project Zipline压缩算法,足够快到可以在压缩数据的同时,把数据写入SSD或者从物联网设备进行上传,而且在微软内部工作负载,也就是最初开发时的目标对象上获得高达96%的压缩率。
如此快速和高效,是因为它采用了一种自定义硬件加速器,可以多次寻找出比压缩算法通常处理的更多模式;而且匹配这些模式的数据,将被模式的一个参考所取代,从而占用的空间更小。
因此,微软除了发布压缩算法规范作为自己对Open Compute Project Foundation的贡献之外,还发布了运行该算法开发芯片所需的Verilog Register-transfer Level (RTL)文件。
微软计划在Project Cerberus下一代版本中也做相同的事情,Project Cerberus硬件“信任根”规范的目标,是帮助固件防止恶意软件入侵,让你不再担心所订购的硬件是否曾经被篡改过。第一个版本有一个单独的控制器,可以插入服务器上的PCI总线,但是微软希望在芯片(例如CPU)层面——甚至是内存和存储层面——也有相同的保护措施。而且,当微软向OCP贡献第二代Cerberus规范的时候,其中就将包含RTL文件,这样厂商们就可以轻松地将其添加到自己的芯片设计中。
物理实现是最棘手的部分;硬件提供商通常会在他们交付基于开放标准的系统时,自行来解决这个部分的问题,因为这是他们相互竞争的一个部分。但是你希望的是厂商采用你的开放标准,因为对你来说,使用的人越多就越有用。
如果你按照厂商希望的那样,在Open Data Initiative下把数据从Azure迁移到Adobe的营销云、SAP或者Dynamics上,那么在迁移数据的同时,对数据进行压缩——而不是扩展——操作就会更有意义。这样做,意味着云和你使用的任何服务器都需要支持Zipline。
使用Verilog和RTL文件(用于描述构成芯片设计的电路)——来指定芯片设计,这一点是很困难的。拥有这种技能的程序员寥寥无几,而且这也不是一种常见技能,这就解释了为什么很多超大规模云计算——而不是普通的企业——才能够利用FPGA的灵活性来交付经过精确设计可以有效运行特定算法的硬件。微软通过开放这种往往仅用于微软内部的设计,让自己更容易把Project Zipline和Cerberus构建到产品中,从而才能被更多的人使用。
Intel、AMD、Ampere、Arm、Marvell和SiFive都在开发采用Zipline的CPU;Broadcom、Fungible、Mellanox、Eideticom、NGD和Pure Storage正在将Zipline添加到自己定位网卡和存储系统中。虽然英特尔没有明确表示会把Cerberus下一代版本构建到自己的CPU中,但邀请微软Cerberus团队参加OCP峰会并做主题演讲,很大程度上是一个很明显的迹象了。
这可能是前所未有的开放贡献,但也非常符合OCP的精神,对于超大规模云提供商来说,OCP最初的目标是让厂商能够更轻松地打造出他们希望采购的硬件。
现在,OCP已经远远不局限于服务器和机架,其衍生产品对于更多企业组织来说是有意义的,因此微软完全有理由这样做。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。