LIVE INDEX / 至顶网
训练和推理之间那道看不见的裂缝,正在悄悄拖垮大模型的强化学习

训练和推理之间那道看不见的裂缝,正在悄悄拖垮大模型的强化学习

读完这篇论文,我印象最深的其实不是CIS这个方法本身,而是作者们那种"回到源头"的思考方式。 大家一开始都盯着"比值"这个最终呈现的数字做文章,设上限、设区间、用KL散度筛选,这些都是在下游打补丁。而这篇论文往回多...