ARXIV
Self-Evolving Agents with Anytime-Valid Certificates
通过可审计自适应门控实现自我进化agent,冻结基模型保持安全边界
概要 / Summary
SEA架构通过围绕冻结基模型的轻量级适配器和版本化框架,利用任意有效统计门控(anytime-valid gate)控制自我修改,每个修改都需通过错误预算审计。五个循环控制器(best-of-N、微步搜索、自复制oracle等)从问题文本生成门控所需信号。在SWE-bench验证集上,强基模型(GLM 5.2 +4,GPT +9)表现提升,且事件日志证实机制有效防止退化。
对你的影响 / Impact
- 可用性:该架构直接适用于我的导购/agent产品——冻结基模型+可审计适配器,既能利用基模型能力,又能通过门控机制控制风险,特别适合生产环境安全合规要求。
- 技术选型启发:之前考虑让agent动态更新权重,现在意识到冻结+适配器+审计门控的组合更可控。可以借鉴其five loop controllers设计,为导购agent添加类似的安全回滚/自我修复机制。
- 下一步行动:仔细读论文中的门控实现细节,评估是否能在近期以最小改方式集成到现有产品中;关注其后续关于run-to-run variance的后续工作。
归档评分 82 · 当日排名 #5