The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows

ReASearch 提出一个统一框架，用单个工具使用型 agent 来自主决定评估内容、诊断失败、编辑和重启，替代传统外部控制器（如进化搜索）。在 14 个任务上，该框架优于特定领域优化系统 2%-40%，并发现优于人类已知最佳的解。关键观察是复杂搜索行为可从 agent 推理中自然涌现。

1. 对导购 agent，可借鉴其自省与记忆机制，改进工具选择和失败恢复逻辑。
2. 改变了我对优化器设计的判断：不再需要显式外部循环，agent 可内化搜索策略。
3. 下一步：深入阅读全文，重点看 agent 循环与记忆实现，尝试在导购场景做小规模验证。