BatchDAG 通过 LLM 生成带类型的 DAG 执行图来编排企业数据分析(SQL查询、语义搜索、内存变换等),通过实体感知批处理优化将 LLM 调用减少 47 倍,生产环境处理 50,000+ 会议数据耗时低于 60 秒,单次查询成本 $0.02-$0.24。 创意点:实体感知批处理(按逻辑实体对行分组后再扇出)是一个可直接迁移到任何 LLM+结构化数据流水线的优化技巧;结构化 JSON 中间结果比文本摘要减少 27% 幻觉的发现,也给 Agent 的工具输出设计提供了可复用的数据格式参考。 原文:https://arxiv.org/abs/2607.18241
这篇候选手册来自公开业界分享的摘要提炼,不转载原文。后续我会补充自己的验证、代码和可复用配置,再升级为正式 playbook。
加入每周 AI 工程师 Brief
新 playbook 上线第一时间通知,附作者每周观察。永久免费。