The Verification Horizon: No Silver Bullet for Coding Agent Rewards

本文挑战了“验证比生成容易”的传统假设，指出在编码Agent场景下，随模型推理能力增强，生成复杂解不难，但可靠验证更困难。作者从可扩展性、忠实性、鲁棒性三个维度刻画验证信号质量，并分析了测试验证器、规则验证器、用户验证器和自动Agent验证器四种奖励构造的挑战。实验表明，针对性验证设计可抑制奖励破解，但固定奖励函数随策略能力增长会失效，验证需要与生成器共同进化。

1. 能用进我的导购/Agent产品：直接相关。导购Agent也面临验证用户意图的难题——用户“要一个礼物推荐”是模糊的，验证推荐是否符合意图比生成推荐更难。本文提出的三维度框架（可扩展性、忠实性、鲁棒性）可用来设计我产品的验证模块，例如用规则验证器检查推荐是否覆盖关键属性，或用用户反馈作为动态验证信号。
2. 改变了我的判断：原本我认为只要优化生成模型就能提升产品体验，现在意识到验证环节可能更快成为瓶颈。尤其是当Agent能力增强后，固定奖励函数（如点击率）容易导致捷径（reward hacking），需要设计随Agent能力演化的验证机制。
3. 接下来该做什么：仔细阅读实验部分，特别是对“用户作为验证器”的分析，因为这最接近我的导购场景；可以考虑在我的情报平台中引入类似的验证质量评估维度，用于论文筛选。