概述
本文档介绍了五种主流的 AI Agent 设计模式,这些模式代表了不同的任务处理和交互方式,适用于不同的应用场景。
一、反射模式 (Reflection Pattern)
工作流程
- 用户输入查询:用户通过界面或 API 向 Agent 发送一个查询请求
- LLM 生成初始输出:大型语言模型(LLM)接收用户的查询,并生成一个初步的响应
- 用户反馈:用户对初步的响应进行评估并给出反馈
- LLM 反射输出:基于用户的反馈,LLM 对初步的响应进行反思,即重新评估和调整其生成的输出
- 迭代过程:这一过程可能需要多次迭代,直到用户对最终的响应感到满意为止
- 返回给用户:最终的响应被返回给用户,用户可以通过界面或 API 接收到结果
应用场景
这种模式通常用于提高大型语言模型的交互性和准确性,通过用户反馈不断优化模型的输出。
特点
- 强调迭代优化
- 用户参与改进过程
- 适合需要高精度和个性化输出的场景
二、工具使用模式 (Tool Use Pattern)
工作流程
- 用户输入查询:用户通过界面或 API 向 Agent 发送一个查询请求
- LLM 处理查询:Agent 内部的大型语言模型(LLM)接收用户的查询,并对其进行处理。在这个过程中,LLM 可能需要调用外部工具或 API 来获取更准确的信息
- 调用工具和 API:如果查询需要额外的信息或数据,LLM 会调用存储在 vector 数据库中的工具和 API 来获取这些信息
- 生成响应:LLM 根据从工具和 API 获取的信息生成一个响应,这个响应可能是文本、表格或其他格式的数据
- 返回给用户:最后,生成的响应被返回给用户,用户可以通过界面或 API 接收到结果
应用场景
这种模式通常用于增强大型语言模型的能力,使其能够访问外部资源以提供更全面和准确的答案。
特点
- 扩展 LLM 的能力边界
- 整合外部数据源和 API
- 适合需要实时数据或专业知识的查询
三、ReAct 模式 (ReAct Pattern)
工作流程
- 用户(User):用户向系统提出查询(Query),例如需要完成的任务或请求
- LLM(Reason):接收到用户的查询后,推理型语言模型(LLM-Reason)会分析查询并生成相应的策略或计划
- 工具(Tools):根据生成的策略或计划,系统调用相应的工具来执行具体的操作
- 环境(Environment):工具执行操作后,将结果反馈给环境
- LLM(Generate):环境返回的结果被反馈给生成型语言模型(LLM-Generate),生成型语言模型根据结果生成最终的响应
- 响应(Response):生成型语言模型生成的响应返回给用户
核心特点
这种模式通过结合推理型语言模型和生成型语言模型,实现了从用户查询到最终响应的完整闭环。
- 推理型语言模型负责策略生成
- 生成型语言模型负责结果呈现和响应生成
- 形成完整的感知-决策-执行循环
四、规划模式 (Planning Pattern)
工作流程
- 用户(User):用户向系统提出查询(Query),例如需要完成的任务或请求
- 计划器(Planner):接收到用户的查询后,计划器会分析并生成一系列任务(Generated tasks)。这些任务可能是具体的执行步骤或子任务
- 生成的任务:计划器生成的任务会被传递给执行者(ReAct Agent)
- 执行者(ReAct Agent):执行者根据生成的任务执行单个任务,并将结果返回给计划器
- 结果反馈:执行者执行完一个任务后,会将结果反馈给计划器。如果所有任务都已完成,则计划器会确认任务完成(Finished?)
- 响应(Response):计划器根据任务完成情况和结果,生成最终的响应(Response),返回给用户
应用场景
这个模式确保了任务的有序执行和结果的及时反馈,从而实现用户需求的有效处理。
特点
- 将复杂任务分解为子任务
- 按序执行并反馈
- 适合多步骤、有依赖关系的任务处理
五、多智能体模式 (Multi-agent Pattern)
工作流程
- 用户(User):用户向系统提出查询(Query),例如需要完成的任务或请求
- 项目经理代理(PM agent):接收到用户的查询后,项目经理代理会分析并分配任务给其他代理
- DevOps 代理(DevOps agent):项目经理代理将任务分配给 DevOps 代理
- 技术负责人代理(Tech lead agent):DevOps 代理将任务进一步分配给技术负责人代理
- 软件开发工程师代理(SDE agent):技术负责人代理将任务分配给软件开发工程师代理
- 执行任务:每个代理根据分配的任务执行相应的操作,并将结果反馈给上一级代理
- 结果反馈:最终,所有代理完成任务后,将结果反馈给项目经理代理
- 综合响应:项目经理代理综合所有代理的结果,生成最终的响应(Response),返回给用户
应用场景
这种模式通过多个代理协同工作,可以更高效地处理复杂任务,确保任务的有序执行和结果的及时反馈。
特点
- 专业化分工,各司其职
- 代理间协作完成复杂任务
- 类似于真实团队的工作模式
- 适合需要多领域专业知识的任务
模式对比与选择
Planning 模式 vs Multi-agent 模式
根据附加材料中的说明,使用”结婚”这个任务作为例子:
Planning 模式示例:
- 你告诉 AI “我要结婚”
- AI 会把结婚拆解成找对象、谈条件、办婚礼等关键步骤
- AI 识别出优先找到对象,再进行找对象策略制定
- 根据实际结果不断调整策略
Multi-agent Collaboration 模式示例:
- 你告诉 AI “我要结婚”
- AI 首先找到媒婆 AI Agent 帮你介绍对象
- 再找到父母 AI Agent 帮你置办条件
- 再找到婚策 AI Agent 帮你定好婚礼
核心区别:
- Tool Use 模式:直接调用基础工具
- Multi-agent Collaboration 模式:通过调用其他 Agent 来间接调用基础工具
吴恩达关于四种 Agent 模型的理解
根据附加材料,吴恩达对四种 Agent 模式有如下总结:
1. Reflection 模式
- AI 会不断输出结婚对象信息
- 自动根据你的条件和喜好进行匹配
- 自行完成筛选优化
- 最终得到最适合你的结婚对象、婚礼模式
2. Tool Use 模式
- AI 会调用相亲网站帮你匹配对象
- 再调用父母帮你搞定彩礼/嫁妆
- 再调用美团帮你搞定婚纱酒席
- 你只需上台验收结婚结果
3. Planning 模式
(如前所述)
4. Multi-agent Collaboration 模式
(如前所述)
总结
这五种 Agent 模式各有特点,适用于不同的应用场景:
- Reflection:强调迭代改进,适合需要精细调整的任务
- Tool Use:扩展 LLM 能力,适合需要外部数据和工具的任务
- ReAct:结合推理和生成,适合需要决策和执行的任务
- Planning:任务分解与顺序执行,适合复杂多步骤任务
- Multi-agent:专业化协作,适合需要多领域专业知识的复杂任务
在实际应用中,可以根据任务的复杂度、所需资源、以及对准确性和效率的要求来选择合适的模式,甚至可以组合使用多种模式以达到最佳效果。