AI智能体越学越笨?一场自我蒸馏的"遗忘危机"
本文介绍ReSAIL方法,通过挑选对特权信息最敏感的交互步骤进行蒸馏,并保留模型使用特权信息的能力,有效解决了AI智能体迭代自我蒸馏中出现的性能坍塌问题,在ALFWorld、TextCraft等任务上实现持续提升。
本文介绍ReSAIL方法,通过挑选对特权信息最敏感的交互步骤进行蒸馏,并保留模型使用特权信息的能力,有效解决了AI智能体迭代自我蒸馏中出现的性能坍塌问题,在ALFWorld、TextCraft等任务上实现持续提升。
第二十一届中国IDC产业年度大典(IDCC2026),暨2026中国IDC产业年度评选颁奖典礼,将于12月10日-11日在北京首钢园召开
Long-WAM研究发现,机器人视觉历史窗口的价值取决于底层模型是否经过自回归预训练,单纯延长历史时长未必提升效果。通过因果预测、异步执行与硬件加速设计,该框架在多项模拟与真实机器人任务中取得领先成绩,并验证了强执行能力...
WorldSonus是一个为交互式世界模型设计的实时流式音频生成框架,能根据视频画面实时生成同步的立体声音频,支持中途修改文字指令,在多项测试中音质和空间对齐效果媲美甚至超越离线双向模型。
复旦大学与OpenMOSS团队系统分析长上下文混合注意力模型,揭示滑动窗口与线性注意力混合模型间的跷跷板效应、潮汐效应与马太效应,提出滑动窗口线性注意力实现16倍训练免费长度外推。
a16z 的三人对谈以 147 个 AI 助理的实测数据为切口,拆解智能体正在分裂出的形态:从工作型、多人型到旅行型,唯独金融卡在信任这一关。节目讨论篱笆式权限、控制感的让渡,以及 agent 之间互相传话会长出什么新东...
YC 访问合伙人、Focal 创始人 Francois Chaubard 拆解学术出身者创业必须完成的十次视角转换:从虚荣指标到用户是否付钱,从追求新颖到坦然抄袭,从等 100% 信息到 70% 就开枪,以及为什么你雇不...
今年以来,各种智能体工具快速进入人们的日常工作,但在曙光云副总裁徐良接触的政企客户中,企业对智能体的态度却有着明显差异。 一些企业已经开始大规模使用智能体,甚至尝试用数字员工改造内部业务流程。但对于更多大型企业和政府机构...
研究者仅凭视觉文档检索系统存储的向量索引,成功还原出47%原文词汇、45%敏感信息,并能98.4%概率精准定位原始页面,证明看似无法读取的向量其实能被反推成完整文档,打乱顺序等防护手段也可能被攻破。
论文发现大语言模型推理对题目表面措辞异常敏感,据此提出SCAPO训练方法,通过半事实扰动探测词级稳定性并只对不稳定词做负向修正,在Qwen3模型上显著提升数学推理与跨领域泛化能力。
研究团队用检索增强生成系统在问答数据集上做实验,探讨测试预算该如何分配给问题数量、搜索轨迹和重复读取,发现多问问题比多次重复更能降低结果不确定性,且费用效率随搜索价格变化。
Mobile-4DGS提出手机端统一静态动态3D高斯溅射渲染框架,通过蒙特卡洛球谐压缩、多视角密化剪枝、显式二阶运动建模和深度顺序证书,大幅降低存储与计算开销,实现手机实时高质量3D/4D渲染。
北大与京东团队推出AdSpark,首个面向产品广告视频生成的大规模数据集与评测基准,,包含30万条结构化标注视频,,揭示现有AI模型在产品保真度和多镜头叙事上的短板,,并验证微调带来的显著提升。
NAVER AI Lab提出负策略在策略蒸馏,训练时额外引入一个比学生更弱的模型生成轨迹,与老师监督结合形成负面参照。在数学、代码、科学共13个基准上全面超越原方法,学生规模覆盖17亿到80亿参数,还兼容已有的多种蒸馏改...
论文提出STEPQuant,针对线性注意力循环状态的低比特量化方法,结合记忆寿命感知的比特分配与键行感知的双轴缩放拟合,在6比特下逼近FP32精度,显著压缩推理内存并提升服务吞吐效率。
论文提出ProactiveCoach数据套装,用阶段、步骤、动作三层结构训练AI助手理解任务进度,并用轻量路由器实现指导颗粒度的灵活切换,无需重新训练主模型。