首页/论文研究/通用知识模块/Agent 闭环:从被动问答到自主执行
通用知识模块 智能体 Markdown

Agent 闭环:从被动问答到自主执行

问答模型只输出文本,Agent 要对结果负责。规划、工具、记忆、校验四件套,加上权限、审计与降级,才构成可上线的闭环。

更新于 2026-11-03 · 通用知识模块
一句话:问答模型输出的是文本,Agent 输出的是结果。区别在于它要自己拆任务、调工具、校验结果,并对没做成负责。

被动问答的天花板

「问一句答一句」的模式在企业里有三个绕不过去的限制:

  • 不落地:它告诉你怎么查库存,但不能真的去查;
  • 不连贯:一次对话结束,状态就丢了,多步骤任务要人来回搬运;
  • 不担责:给出错误结论时,没有任何机制拦截。

Agent 的定位就是补上这三块:能调用、有状态、可校验。

四个组成部分

Agent 闭环:规划、执行、校验、记忆

1. 规划(Planner)

把用户的模糊目标拆成可执行步骤。两种主流范式:

  • ReAct:边想边做,每步「思考 → 行动 → 观察」循环,灵活但容易绕圈;
  • Plan-and-Execute:先生成完整计划,再逐步执行,可控性好,但计划错了要能重规划。

企业场景更偏后者:步骤可审计、可人工确认、可中断恢复。

2. 工具(Tools)

工具不是越多越好,而是要边界清晰、幂等、可回滚:

  • 每个工具要有明确的入参 schema、返回结构、错误码;
  • 写操作要幂等(带业务唯一键),避免重试造成重复下单、重复发邮件;
  • 危险操作(付款、删数据、对外发送)必须有人工确认环节。

3. 记忆(Memory)

  • 短期:当前任务的中间结果、已确认的事实;
  • 长期:用户偏好、历史决策、组织规则。

没有记忆的 Agent 每次都要重新问一遍背景,用户体验还不如人工。

4. 校验(Verifier)

这是最容易被忽略、又最决定能不能上线的一环:

  • 规则校验:金额是否超限、必填字段是否齐全、供应商是否在黑名单;
  • 交叉校验:多个来源的数值是否一致,不一致就报冲突而不是择一;
  • 结果自检:让模型对照原始材料核对自己的结论,标出无依据的部分。

工具编排:DAG 而不是线性链

真实任务很少是直线流程。更合适的抽象是有向无环图:

取数 → 清洗 → 并行调用(汇率 / 库存 / 合同)→ 汇总 → 生成结论 → 人工复核

工程上要处理四件事:

  1. 并发与依赖:无依赖的节点并行,缩短总时长;
  2. 重试与降级:接口超时先重试,仍失败则切本地缓存或备用数据源,并在结果里标注「降级」;
  3. 超时与熔断:单个节点不能拖垮整条链路;
  4. 可观测:每个节点的入参、出参、耗时、是否降级都要留痕。

多角色协同与仲裁

复杂决策往往需要多个视角:财务看成本、法务看合规、技术看可行性。让多个角色 Agent 各自出结论,再由仲裁层汇总:

  • 一致的部分直接采纳;
  • 冲突的部分列成对照表,指出分歧点和依据;
  • 冲突未解决时,阻断最终报告的生成,交人工裁决。

这比让一个大模型「综合考虑」更可靠——因为分歧被显式暴露,而不是被平均掉。

可控性:企业最在意的部分

维度要求
权限按角色做字段级控制(可见 / 脱敏 / 不可见),越权请求要拦截
审计每次调用记录操作者、时间、工具、入参摘要、结果
私有化模型与数据不出内网,敏感字段在进入模型前就脱敏
可回滚写操作留快照,出问题能撤销

怎么衡量它有没有用

不要看「回答得像不像人」,看这四个数:

  • 任务成功率:端到端完成的比例(不是单步正确率);
  • 人工介入率:需要人接管的比例,越低越好;
  • 平均耗时:相比人工流程缩短多少;
  • 错误代价:出错时的损失是否可控、是否可追溯。

一个只能把人工 30 分钟压到 3 分钟、但每周出一次不可回滚错误的 Agent,是不合格的。闭环的前提是可控,不是自动化程度高。