微软新推出的Project Zipline压缩算法,足够快到可以在压缩数据的同时,把数据写入SSD或者从物联网设备进行上传,而且在微软内部工作负载,也就是最初开发时的目标对象上获得高达96%的压缩率。
如此快速和高效,是因为它采用了一种自定义硬件加速器,可以多次寻找出比压缩算法通常处理的更多模式;而且匹配这些模式的数据,将被模式的一个参考所取代,从而占用的空间更小。
因此,微软除了发布压缩算法规范作为自己对Open Compute Project Foundation的贡献之外,还发布了运行该算法开发芯片所需的Verilog Register-transfer Level (RTL)文件。
微软计划在Project Cerberus下一代版本中也做相同的事情,Project Cerberus硬件“信任根”规范的目标,是帮助固件防止恶意软件入侵,让你不再担心所订购的硬件是否曾经被篡改过。第一个版本有一个单独的控制器,可以插入服务器上的PCI总线,但是微软希望在芯片(例如CPU)层面——甚至是内存和存储层面——也有相同的保护措施。而且,当微软向OCP贡献第二代Cerberus规范的时候,其中就将包含RTL文件,这样厂商们就可以轻松地将其添加到自己的芯片设计中。
物理实现是最棘手的部分;硬件提供商通常会在他们交付基于开放标准的系统时,自行来解决这个部分的问题,因为这是他们相互竞争的一个部分。但是你希望的是厂商采用你的开放标准,因为对你来说,使用的人越多就越有用。
如果你按照厂商希望的那样,在Open Data Initiative下把数据从Azure迁移到Adobe的营销云、SAP或者Dynamics上,那么在迁移数据的同时,对数据进行压缩——而不是扩展——操作就会更有意义。这样做,意味着云和你使用的任何服务器都需要支持Zipline。
使用Verilog和RTL文件(用于描述构成芯片设计的电路)——来指定芯片设计,这一点是很困难的。拥有这种技能的程序员寥寥无几,而且这也不是一种常见技能,这就解释了为什么很多超大规模云计算——而不是普通的企业——才能够利用FPGA的灵活性来交付经过精确设计可以有效运行特定算法的硬件。微软通过开放这种往往仅用于微软内部的设计,让自己更容易把Project Zipline和Cerberus构建到产品中,从而才能被更多的人使用。
Intel、AMD、Ampere、Arm、Marvell和SiFive都在开发采用Zipline的CPU;Broadcom、Fungible、Mellanox、Eideticom、NGD和Pure Storage正在将Zipline添加到自己定位网卡和存储系统中。虽然英特尔没有明确表示会把Cerberus下一代版本构建到自己的CPU中,但邀请微软Cerberus团队参加OCP峰会并做主题演讲,很大程度上是一个很明显的迹象了。
这可能是前所未有的开放贡献,但也非常符合OCP的精神,对于超大规模云提供商来说,OCP最初的目标是让厂商能够更轻松地打造出他们希望采购的硬件。
现在,OCP已经远远不局限于服务器和机架,其衍生产品对于更多企业组织来说是有意义的,因此微软完全有理由这样做。
好文章,需要你的鼓励
牛津大学研究发现,尽管大语言模型在医学考试中表现出色,但在实际应用中效果大打折扣。研究显示,LLM直接测试时能94.9%准确识别病症,但人类使用LLM诊断时准确率仅34.5%,甚至低于不使用AI的对照组。问题源于用户提供信息不完整、LLM理解偏差等人机交互问题。专家指出,仅凭非交互式基准测试评估LLM存在误导性,需要真实的人机交互测试才能准确评估AI系统的实际性能。
RMIT大学研究团队提出革命性QQSUM技术,突破传统电商问答系统只给单一答案的局限。该技术能将用户评论中的多元观点自动归纳为代表性关键点并精确量化支持度,为消费者提供全面客观的购买参考。实验显示,新系统在文本相似度和量化准确性方面分别提升2.11倍和67.12%,有望彻底改变电商平台的用户体验和决策方式。
PCI特殊兴趣小组(PCI-SIG)正式发布PCIe 7.0规范,带宽再次翻倍达到128 GTps原始传输速率,在x16通道配置下可实现高达512 GBps双向带宽。相比2022年发布的PCIe 6.0的256 GBps,性能提升一倍。该技术主要面向800 Gbps以太网适配器、高性能计算和机器学习等高吞吐量应用。同时,PCI-SIG首次推出基于光纤链路的PCIe标准,并已开始PCIe 8.0规范的前期研发工作。
北京通用人工智能研究院的研究团队开发了名为RuleReasoner的创新训练方法,成功让小型AI模型在规则推理任务上超越了OpenAI的o1等大型模型。该方法采用领域感知动态采样策略和强化学习,使8B参数模型在多个困难推理任务中领先10.4个百分点,同时显著提高了训练效率,为AI推理能力发展开辟了新路径。