AgentLens是一个开源基准测试,通过轨迹审查(而非简单的通过/失败)来全面评估代码Agent的指令遵循、工具使用、自我验证、错误恢复和沟通能力。 创意点:传统benchmark只看任务是否完成,无法捕捉Agent在生产环境中的真实行为。AgentLens支持夜间评估管道,能诊断模型行为和捕捉产品回归。工程团队可直接复用其轨迹评分框架,或在nightly CI中集成类似的回归检测。 原文:https://arxiv.org/abs/2607.06624
这篇候选手册来自公开业界分享的摘要提炼,不转载原文。后续我会补充自己的验证、代码和可复用配置,再升级为正式 playbook。
加入每周 AI 工程师 Brief
新 playbook 上线第一时间通知,附作者每周观察。永久免费。