Agent Memory Distillation: Empowering Small LLM Agents with Hierarchical Teacher Memory

本文提出Agent Memory Distillation (AMD)，一种无需训练的方法，通过从大型教师Agent的成功轨迹中构建三种层次化记忆（Workflow、Subtask、Function），帮助小型LLM Agent提升工具使用能力。在AppWorld、BFCL V3和ToolSandbox三个基准上，使用GPT-5-mini作为教师，对4B-8B学生模型获得了显著性能提升（平均准确率提高27.2%、11.2%和3.4%）。其中Subtask记忆贡献最大，且教师能力与学生兼容性很重要，尤其4B学生受益最多。

• 我的导购agent产品中，若使用小模型（如7B级别）降低延迟成本，AMD的记忆蒸馏框架可以直接借鉴，让高级模型（如GPT-5-mini）生成历史成功轨迹，通过记忆注入提升小模型工具调用准确率。

• 该工作强调了Subtask记忆的粒度价值，改变了我对“记忆应存储高层策略”的直觉，转而关注中间粒度示例，可应用到我的知识管理系统中，分层存储技能知识。

• 我下一步应精读细节，并在自己的工具调用场景（如商品查找API）复现，验证其效果与成本，同时关注后续是否有开源实现。