在Agent中落地ReAct模式(Reasoning + Acting)

  • 核心是让模型在“推理-行动-观察”循环中可控、可解释。

1. CoT思维链显性化设计:让推理过程可追踪、可修正

  • 本质:将Agent的内部推理转化为可读的文本轨迹,每一步行动前都必须先输出“思考”。

  • 落地要点:

    • 强制格式:在Prompt中要求模型先输出Thought:,再输出Action:。例如:
      Thought: 用户问今天天气,我需要先获取位置。
      Action: get_location[]
      
    • 分步拆解:复杂任务要求模型写出子目标(如Step1:、Step2:),避免跨步跳跃。
    • 约束思维长度:通过示例限制单次Thought不宜过长(如3-5句话),防止思维发散导致跑题。
    • 副作用控制:要求Thought中不得包含实际执行的代码或工具调用参数,只做逻辑推演。

价值:显性化后,开发者能直接定位“推理错误”还是“执行错误”,也便于后续用思维链微调。


2. Stop Sequence精准实现:及时阻断模型幻觉与越权行为

  • 问题:模型在输出完Action后,可能继续“脑补”观察结果(Observation)或提前执行下一步,造成虚假轨迹。
  • 解决方案:
    • 在API调用时设置stop参数,例如stop=["\nObservation:", "\nAction:"]。一旦生成到这些关键词立即截断。
    • 动态停止符:根据当前状态切换停止符。例如期望模型只输出Thought时,停在对Action:之前;期望只输出Action时,停在Observation之前。
    • 冗余截断:在工程层增加后处理——如果输出中包含未授权的工具调用或伪造的Observation,丢弃该输出并强制重试。
    • 状态机配合:Agent主循环使用状态(THINKING / ACTING / OBSERVING),停止符保障模型不会跨状态生成内容。

效果:杜绝模型“自问自答”,确保Observation只来自真实工具返回值,从根源减少幻觉。


3. 贴合Agent逻辑的Prompt结构化设计:规范行动规则

  • 核心原则:不是写“请做一个Agent”,而是定义一套可执行的文法。

  • 结构要素:

    • 角色与边界:明确Agent的可用工具列表、权限范围、禁止行为(如“不允许猜测未获取的信息”)。
    • 输出格式语法:使用类似BNF或正则描述。例如:
      Action: tool_name[param1="value1", param2="value2"]
      
    • 循环控制:明确最大步数、何时终止(Action: finish[answer="..."])。
    • 异常处理规则:如果工具返回错误,必须在Thought中分析原因并决定重试/换工具/终止。
    • 示例驱动:给出2-3个完整(Thought→Action→Observation→Thought)的合法轨迹作为少样本示例,比单纯规则更有效。

设计价值:结构化Prompt让模型输出变得可解析(正则提取Action),避免自然语言歧义;同时规则前置可大幅降低非法调用和无限循环概率。


总结:

  • CoT显性化 → 解决“黑箱推理”问题
  • Stop Sequence → 解决“越权生成”问题
  • 结构化Prompt → 解决“行为不可控”问题

三者协同,使ReAct Agent从“可能工作的玩具”变成“工程可靠的系统”。