核心 GUIDE

PATTERNINTERMEDIATE6 分钟阅读

Verification Loop

可靠 Agent 会反复比较“预期状态”和“实际观测状态”,再根据差异决定继续、修复、升级人工或停止,而不是一路相信自己的叙述。

核心心智模型

Verification Loop 是围绕任务建立的 Feedback Control:先定义 Postcondition,再执行 Action,从 Environment 独立观测结果,把 Evidence 与 Postcondition 比较,并用差异决定下一步。

为什么重要

长 Workflow 如果只在最后检查一次,早期错误会经过多次 Tool Call 被放大;而反复让同一个 Model 自我反思,又可能只是继续继承原错误。Verification Loop 在关键 State Transition 后引入外部 Evidence,让 Runtime 在更多成本和 Side Effect 累积之前发现 Drift。

01

在真正改变 State 的节点验证

执行重要 Action 前,先说明预期产生什么 State Transition。执行后从环境收集 Evidence,验证是否满足 Postcondition,并把结果分类为 satisfied、failed 或 ambiguous。只有已验证状态才允许继续;失败则局部 Repair,不确定 Side Effect 则先 Reconcile,无法安全确认 Truth 时升级人工或停止。

02

例子:Agent 更新一次 Deployment

Agent 修改 Configuration、执行 Deployment,Command Exit Code 返回成功。Verification Loop 随后检查实际部署 Version、Health Endpoint 与关键 Smoke Assertion。如果新版本根本没有 Rollout,系统会修复这一 Stage,而不是直接宣布完成或继续做无关后续操作。

常见失败模式

  • 把 Tool Return Status 当成 Task Outcome 的最终 Verification。
  • 只在长且不可逆 Workflow 的最后一步做检查。
  • 让同一个 Model Statement 同时扮演 Claim 与 Verifier。

工程启发

  • 把 Verification 放在有意义的 State Transition 后,而不是每个微小 Token-level Action 后。
  • 选择真正可能反驳 Model 预期的 Evidence。
  • 把 Ambiguous Verification 设为一等状态,并提供 Reconciliation 或 Escalation。

关键结论

  1. 01Verification 把 Open-loop Agent 变成 Feedback Control。
  2. 02Checkpoint Evidence 可以限制错误传播。
  3. 03下一步应基于 Observed State,而不是 Narrated State。

阅读记录

未打开Practice 尚未完成

这里只记录你真实做过的动作,不代表掌握、熟练或认证。

用于这些学习路径

这个 Concept 会在多个 canonical 学习路径中复用。

继续学习

来自 Knowledge Graph 的相关知识点

这些关系直接来自 canonical graph,不维护第二套 Guide 分类体系。