ARXIV
Self-GC: Self-Governing Context for Long-Horizon LLM Agents
将LLM agent上下文管理从文本修剪升级为生命周期垃圾回收
概要 / Summary
Self-GC 将 agent 上下文中的用户输入、工具输出、技能状态等抽象为索引对象,通过侧通道规划器(LLM planner)决策折叠、屏蔽、裁剪操作,实现对上下文对象的生命周期管理(类似垃圾回收)。在33轮会话的Hard Set中裁剪43.95%前缀token且84.85%未来延续不受影响;在332轮生产套件中达到91.27%-94.58%无影响率,高出启发式基线10-17个百分点。生产环境下白天平均输入token减少10-15%,峰值近20%。
对你的影响 / Impact
- 导购/agent产品:当前长对话中工具调用结果、用户约束记忆会无差别累积,Self-GC的结构化管理可直接用于控制上下文窗口,减少无效token占用,提升响应速度。
- 改变了技术选型判断:之前考虑用摘要或滑动窗口策略,现在更倾向于基于对象生命周期的上下文治理——更精准保留未来可能依赖的信息,且可恢复侧脑文件(sidecar)重算,避免信息丢失。
- 接下来该做什么:读全文看侧通道规划器具体如何与主agent通信;尝试在自己的agent中实现类似的对象索引和折叠机制;跟踪后续是否有开源实现或简化方案。
归档评分 90 · 当日排名 #2