🔒 只读 demo · 仅可导出MDWord
ARXIV

BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data

category:cs.AI · 评分 78 · Anupreet Walia · 原文链接 ↗

LLM规划DAG+实体分批,企业级分析成本降47倍

BatchDAG 让 LLM 生成一个带类型的 DAG(包含 SQL、语义搜索、并行扇出等操作),由确定性引擎按拓扑波并行执行,并通过实体感知分批将 LLM 调用减少 47 倍。在 12 个密集查询上,质量(3.74/5)优于专家流程(3.25/5)和 ReAct agent(3.09/5),溯源证据率 77% 高于基线。结构化 JSON 中间结果比散文摘要减少 27% 幻觉。生产环境处理 5 万+会议时延 <60 秒,单查询成本 $0.02–$0.24。

  1. Agent 导购产品:可直接复用 BatchDAG 的 DAG+实体分批范式来处理复杂跨实体查询(如比较多个商品策略),替代当前顺序 tool-call 流程,降低成本并提高稳定性。
  2. 技术选型判断:原本倾向使用 ReAct 或 Plan-and-Execute,现在应优先考虑 DAG 调度。实体分批是实用的降本策略,值得集成。
  3. 下一步:阅读全文实现细节,尝试在项目中用 DAG 替换现有 agent 循环,优先在数据聚合类查询场景进行 A/B 测试。
归档评分 78 · 当日排名 #5