AI给自己出题、自己打分:一个五个蘑菇的故事教会我们的事
VQS让视觉语言模型不再靠投票猜答案,而是把图片解析成结构化数据,用固定程序算出答案并逐句核验事实,大幅降低自我训练中的错误标签,在十个基准上实现稳定提升。
VQS让视觉语言模型不再靠投票猜答案,而是把图片解析成结构化数据,用固定程序算出答案并逐句核验事实,大幅降低自我训练中的错误标签,在十个基准上实现稳定提升。
读完这篇论文,我印象最深的其实不是CIS这个方法本身,而是作者们那种"回到源头"的思考方式。 大家一开始都盯着"比值"这个最终呈现的数字做文章,设上限、设区间、用KL散度筛选,这些都是在下游打补丁。而这篇论文往回多...
清华团队提出TaH2,让循环变压器学会判断哪些字需要多算一轮。相比固定深度多算,TaH2在数学难题上准确率提升超3个百分点,且深度增加时优势持续扩大,突破了循环模型后训练效果不及标准模型的困境。
本文介绍LT-OPD训练框架,通过让极限压缩的多模态大模型在自己生成的内容上接受满血版模型指导,并配合渐进式课程学习,在仅保留5%视觉token时把性能保留率从68.6%提升到82.3%,且不增加推理成本。
本文解读ALIGNOPSD方法,该方法针对AI智能体训练中"决策与时间戳错配"问题,通过先对齐功能相同的决策场景再打分,并按可变长度决策段分配信用,在ALFWorld、WebShop、Search-QA三大任务上相比GR...
本文介绍自适应一致性图(ACG)方法,通过持久化执行记忆图与预算感知的上下文构建,帮助AI智能体在长任务中减少信息失联,在多项基准测试中相比ReAct等基线方法提升了任务成功率。
多智能体AI协作时重复计算KV缓存浪费严重。PReCache提出预计算低秩缓存和中性基础缓存重构两项设计,免训练实现最高3.1倍加速、2.3倍吞吐提升,且准确率仅比不共享方案低1.1个百分点。
这篇论文提出AdaGuard,一个能理解用户自定义规则、评估AI智能体行为是否违规的安全审核模型,并配套构建了AdaptiveSafety数据集和SafePO强化学习算法,4B模型在测试集上准确率达89.30%。
论文指出MoE模型合并后路由虽大幅改变,但这种"漂移"未必等于性能失败。研究者提出任务导向的检验框架,并通过SRR方法验证:源模型路由偏好难以可靠预测真正有益的修复效果。
论文提出Rolling-WAM,通过滑动窗口把机器人世界动作模型的去噪计算分摊到多个规划周期,近端动作精炼、远端预测暂缓,在LIBERO、RoboTwin及真实人形机器人任务中实现4.5倍推理加速且性能不降反升。
LightMIS是一种超轻量医学图像分割模型,抛弃传统U-Net解码器,用尺度对齐投影和自适应融合级联直接聚合编码器特征,仅0.131M参数即达到接近最优的分割精度,并在手机GPU上实现完整算子覆盖。
RayOrch是面向大模型数据准备的分布式执行系统,通过维护父子结构血缘和FIFO队列调度,解决文档视频处理中细粒度并行与完工判断的矛盾,实测扩展至64GPU加速超15倍。
Google AI基础设施首席技术专家Amin Vahdat在红杉资本的访谈中提出,衡量AI算力的关键不是FLOPS这类理论峰值,而是goodput——真实故障环境下交付的有效工作量。十万加速器规模下,故障几乎每小时都在...
Mandiant创始人Kevin Mandia谈他为何重新创业做Armadin:AI让攻击者能以机器速度同时试探上千条入侵路径,国家级攻击正从精准狙击变成无人机蜂群式打法。Armadin今年已在客户生产环境中找到超90个...
论文提出ZooWork-ShopRanker系列电商排序模型,用多家族大语言模型充当裁判标注偏好数据,通过蒸馏训练出高效小模型,并发布ShopRank-Bench基准,揭示开源排序模型在处理预算、约束等硬性条件时普遍失效...
长文本注意力计算量随长度平方增长,选块环节成为瓶颈。字节跳动与上海交大提出PISA,用金字塔式分层选择和LogSumExp打分,把选块复杂度降到O(N log N),长序列检索更准更快。
一个只做选择题的轻量决策模型Jev发布一周内涌入2170个GitHub项目、43750个星标。论文分析其应用领域分布、决策用途与关注度失衡现象,揭示通用决策组件如何嵌入真实系统。
CARD提出分层个性化框架,先按风格聚类训练群体级LoRA适配器,再用轻量用户偏好向量在解码阶段做精细修正,兼顾生成质量、低资源适应性与部署效率,在LaMP和LongLaMP基准上全面超越现有方法。