在Agent中落地ReAct模式(Reasoning + Acting)
- 核心是让模型在“推理-行动-观察”循环中可控、可解释。
1. CoT思维链显性化设计:让推理过程可追踪、可修正
-
本质:将Agent的内部推理转化为可读的文本轨迹,每一步行动前都必须先输出“思考”。
-
落地要点:
- 强制格式:在Prompt中要求模型先输出
Thought:,再输出Action:。例如:Thought: 用户问今天天气,我需要先获取位置。 Action: get_location[] - 分步拆解:复杂任务要求模型写出子目标(如
Step1:、Step2:),避免跨步跳跃。 - 约束思维长度:通过示例限制单次Thought不宜过长(如3-5句话),防止思维发散导致跑题。
- 副作用控制:要求Thought中不得包含实际执行的代码或工具调用参数,只做逻辑推演。
- 强制格式:在Prompt中要求模型先输出
价值:显性化后,开发者能直接定位“推理错误”还是“执行错误”,也便于后续用思维链微调。
2. Stop Sequence精准实现:及时阻断模型幻觉与越权行为
- 问题:模型在输出完
Action后,可能继续“脑补”观察结果(Observation)或提前执行下一步,造成虚假轨迹。 - 解决方案:
- 在API调用时设置
stop参数,例如stop=["\nObservation:", "\nAction:"]。一旦生成到这些关键词立即截断。 - 动态停止符:根据当前状态切换停止符。例如期望模型只输出
Thought时,停在对Action:之前;期望只输出Action时,停在Observation之前。 - 冗余截断:在工程层增加后处理——如果输出中包含未授权的工具调用或伪造的
Observation,丢弃该输出并强制重试。 - 状态机配合:Agent主循环使用状态(THINKING / ACTING / OBSERVING),停止符保障模型不会跨状态生成内容。
- 在API调用时设置
效果:杜绝模型“自问自答”,确保Observation只来自真实工具返回值,从根源减少幻觉。
3. 贴合Agent逻辑的Prompt结构化设计:规范行动规则
-
核心原则:不是写“请做一个Agent”,而是定义一套可执行的文法。
-
结构要素:
- 角色与边界:明确Agent的可用工具列表、权限范围、禁止行为(如“不允许猜测未获取的信息”)。
- 输出格式语法:使用类似BNF或正则描述。例如:
Action: tool_name[param1="value1", param2="value2"] - 循环控制:明确最大步数、何时终止(
Action: finish[answer="..."])。 - 异常处理规则:如果工具返回错误,必须在Thought中分析原因并决定重试/换工具/终止。
- 示例驱动:给出2-3个完整(Thought→Action→Observation→Thought)的合法轨迹作为少样本示例,比单纯规则更有效。
设计价值:结构化Prompt让模型输出变得可解析(正则提取Action),避免自然语言歧义;同时规则前置可大幅降低非法调用和无限循环概率。
总结:
- CoT显性化 → 解决“黑箱推理”问题
- Stop Sequence → 解决“越权生成”问题
- 结构化Prompt → 解决“行为不可控”问题
三者协同,使ReAct Agent从“可能工作的玩具”变成“工程可靠的系统”。