ARXIV
BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data
LLM规划DAG+实体分批,企业级分析成本降47倍
概要 / Summary
BatchDAG 让 LLM 生成一个带类型的 DAG(包含 SQL、语义搜索、并行扇出等操作),由确定性引擎按拓扑波并行执行,并通过实体感知分批将 LLM 调用减少 47 倍。在 12 个密集查询上,质量(3.74/5)优于专家流程(3.25/5)和 ReAct agent(3.09/5),溯源证据率 77% 高于基线。结构化 JSON 中间结果比散文摘要减少 27% 幻觉。生产环境处理 5 万+会议时延 <60 秒,单查询成本 $0.02–$0.24。
对你的影响 / Impact
- Agent 导购产品:可直接复用 BatchDAG 的 DAG+实体分批范式来处理复杂跨实体查询(如比较多个商品策略),替代当前顺序 tool-call 流程,降低成本并提高稳定性。
- 技术选型判断:原本倾向使用 ReAct 或 Plan-and-Execute,现在应优先考虑 DAG 调度。实体分批是实用的降本策略,值得集成。
- 下一步:阅读全文实现细节,尝试在项目中用 DAG 替换现有 agent 循环,优先在数据聚合类查询场景进行 A/B 测试。
归档评分 78 · 当日排名 #5