至顶网软件与服务频道消息:11月6日,天猫双11前夕,阿里巴巴宣布完成了又一壮举:基于自主研发的液冷、深层水冷等技术,阿里巴巴工程师们将数据中心的能效再一次逼近极限,整体节能效果超过70%,将每万笔电商交易的耗电量控制在2度电以内,持续推进“绿色双11”的目标。
泡在“水里”的服务器
双11不仅是消费者的狂欢,也是服务器最忙碌的时刻。剁手党们畅快买买买的同时,数据中心却在24小时高负荷运转。阿里巴巴有上百万台服务器在为全社会提供计算服务,每降低一台服务器的能耗,都能为全社会节约大量资源。
此前,阿里的工程师成功研发出了液冷服务器技术。他们把服务器“泡在水里”——这是一种极其高效的散热方式:浸没式液冷。服务器被浸泡在特殊冷却液里,产生热量可被冷却液直接带走进入外循环,全程用于散热的能耗几乎为零,整体节能70%。今年双11,液冷服务器将会更大规模的部署,进一步降低数据中心整体能耗。
阿里巴巴液冷服务器
另外,今年人工智能技术也被应用到数据中心里,算法模型可根据外部温度优化服务器负载,实现智能化电力和热能管控。
阿里巴巴数据中心内部
据悉,今年双11将是史上最绿色的一届双11,除了更省电的数据中心外,菜鸟引领的包裹瘦身算法、电子面单等将为地球“减负”。
好文章,需要你的鼓励
这篇研究论文介绍了"Speechless",一种创新方法,可以在不使用实际语音数据的情况下训练语音指令模型,特别适用于越南语等低资源语言。研究团队通过将文本指令转换为语义表示,绕过了对高质量文本转语音(TTS)系统的依赖。该方法分三个阶段:首先训练量化器将语音转为语义标记;然后训练Speechless模型将文本转为这些标记;最后用生成的合成数据微调大型语言模型。实验表明,该方法在越南语ASR任务中表现出色,为低资源语言的语音助手开发提供了经济高效的解决方案。
《Transformer Copilot》论文提出了一种革命性的大语言模型微调框架,通过系统记录和利用模型训练过程中的"错误日志"来提升推理性能。研究团队受人类学习者记录和反思错误的启发,设计了一个"副驾驶"模型来辅助原始"驾驶员"模型,通过学习错误模式并在推理时校正输出。这一方法在12个基准测试上使模型性能提升高达34.5%,同时保持计算开销最小,展现了强大的可扩展性和可迁移性,为大语言模型的优化提供了全新思路。
德克萨斯大学Austin分校的研究团队提出了RIPT-VLA,一种创新的视觉-语言-动作模型后训练范式。该方法通过让AI模型与环境互动并仅接收简单的成功/失败反馈来学习,无需复杂的奖励函数或价值模型。实验证明,RIPT-VLA能显著提升现有模型性能,在轻量级QueST模型上平均提升21.2%,将大型OpenVLA-OFT模型推至97.5%的前所未有成功率。最令人惊叹的是,仅用一个示范样本,它就能将几乎不可用的模型在15次迭代内从4%提升至97%的成功率,展现出卓越的数据效率和适应能力。
北京大学与华为诺亚方舟实验室研究团队共同开发了TIME基准,这是首个专为评估大语言模型在真实世界场景中的时间推理能力而设计的多层级基准。该研究提出了三个层级的时间推理框架,包含11个细粒度任务,并构建了涵盖38,522个问答对的数据集,针对知识密集型信息、快速变化的事件动态和社交互动中的复杂时间依赖性三大现实挑战。实验结果表明,即使是先进模型在构建时间线和理解复杂时间关系方面仍面临显著挑战,而测试时扩展技术可明显提升时间逻辑推理能力。