🕸 Agent 系统 · 项目深挖

说明

面试中被追问、且没讲清楚的项目细节。这篇把每个点拆成「该怎么讲 + 关键 reasoning + 面试官想看什么」,便于口头复述。文中涉及数字均为通用参考值(已标注估算),面试前请替换成你们的真实值。


1. 意图识别(把「闲聊 vs 专业路由」讲透)

面试官反映:你只说了一个”闲聊”,专业路由这边没展开,BERT 到底做了啥也没说。

怎么讲(分层)

  1. 意图识别是 Agent 的入口分流:它回答”用户这句话想干什么”,据此决定走专业流程还是闲聊或其他。
  2. BERT 意图分类模型的构成:
    • 输入句 → BERT 得到句子向量 → 接分类头(softmax 多分类),映射到预定义意图集合。
    • 意图集合不只是 {闲聊, 专业},专业侧还要细分(如:查知识库 / 调工具A / 多轮澄清 / 下单 / 运维操作…),每个意图对应一条路由。
  3. 闲聊怎么处理:闲聊作为一类独立意图;或对专业类别给低置信度阈值兜底。命中闲聊 → 走闲聊生成(小模型/开放闲聊),不进专业流程。
  4. 兜底设计(面试加分):预测置信度低于阈值 → 转澄清/拒答引导,而不是强行路由,避免误操作。
  5. 工程细节可提:领域数据微调 BERT、类别不均衡处理、预测时 top-k + 阈值双判。

一句话记忆

“用 BERT 分类头做多类意图识别:专业意图细分 + 闲聊兜底 + 低置信度走澄清。“
(面试官要听的就是这句,然后是上面第 2-4 点的展开)

📌 通用参考值(估算):意图类别数=8~15 个(1 个闲聊 + 其余专业意图,如查知识/调工具/多轮澄清/下单/运维…);BERT 做了领域小样本微调(几百~几千条标注数据);置信度阈值=0.6~0.7,低于则走澄清兜底。


2. 意图之后:调用工具 / MCP,怎么筛选工具

面试官想说啥

他问”主路由 / 怎么路由”时,想听的通常是意图识别那一整套思路(先粗筛再精筛、一层层往下走),别只报一句结果。展开 §1(意图识别)+ §2(工具筛选)一起讲最稳。

面试官连环问:是否走意图判断做工具筛选?是否走相似度精筛?工具加载多少?几类?每次 topk?还是写死路由?——你没说明白。

把设计讲成”分层筛选”,不含糊

  • 第一层:意图 → 候选工具集合。每个意图预绑定一组”这个意图可能用到的工具”(意图-工具映射表)。先粗过滤掉无关工具。→ 回答”做了,按意图粗筛”。
  • 第二层:相似度精筛(可选)。基于工具 description/功能向量,对用户 query 与工具描述算 embedding + 余弦相似度,在候选集内取 topK。→ 回答 K 值 + 在哪个维度上比。
  • 两层都不行/不需要时:工具少(<50)可直接意图→映射,不必上 embedding;工具很多才需要第二层召回。
  • 接 MCP:MCP 提供标准工具接入和工具元数据(名称/描述/参数 schema);路由层消费这些描述做筛选,最后把选中的工具名 + 参数 schema 交给大模型 function-calling。

必须能答的具体参数(面试官盯着这些问)
| 问题 | 参考口径 | 通用参考值(估算) |
|------|----------|------|
| 工具有多少 | 报总数 N | 30~100 个注册工具 |
| 分几类 | 业务查询/运维/知识/计算… | 5~8 类 |
| 意图粗筛命中集合 | S(远小于 N) | 单意图绑 5~15 个候选工具 |
| 相似度 topk | K ≈ 3~5,可配置 | topk = 3~5 |
| 还是写死路由 | 优先”配置化路由”,不写死,新工具免改码 | 配置化:意图-工具映射表 + 动态 topk |

关键 reasoning(说出来显功力)

  • 用意图过滤比每次全量 embedding 更省、更可控、可解释。
  • 相似度用于”工具多时对候选召回精化”,不是触发全部工具。
  • “写死路由”的缺点:不可扩展、新工具要改代码 → 用配置/映射表 + 动态 topk。

一句话记忆

“意图先粗筛候选工具,必要时再在候选内做相似度 topk 精筛;路由配置化不写死,MCP 提供工具 schema 供消费。“


3. 并发模型(项目实战,含多租户隔离)

你在复盘里给了很实在的做法,整理成标准答案;另补上多租户会话隔离。

立场:Python 协程,单进程单线程事件循环(GIL 决定不靠多线程)。

  • 单线程协程并发 1w~10w 都 OK,toB 场景足够,根本不需要多线程。
  • 大模型调用必须走 async 接口;若遇同步函数:
    • IO 密集 → 线程池(asyncio.to_thread),不卡循环
    • CPU 密集 → 进程池(ProcessPoolExecutor)躲 GIL
  • 数据库:对接时连接池要满足并发(连接数 ≥ 峰值并发/复用,或用 async 驱动连接池如 aiosqlite/asyncpg)。

多租户会话隔离(新增,面试加分)

  • 用自定义 ID=租户ID + 会话ID,作为状态存取、缓存、数据库/Redis key 的统一前缀。
  • 效果:单进程多租户高并发下,每个请求协程凭自己的 ID 读写彼此隔离的状态与上下文,不串话、不互相覆盖。
  • 一句话:高并发 + 多租户下,“身份隔离靠自定义 ID,而不是靠多进程多线程”。

一句话记忆

“单进程协程 1w~10w,LLM 走 async、同步函数按 IO/CPU 分流给线程/进程池,DB 用足并发连接池;多租户靠『租户+会话』自定义 ID 隔离上下文。“


4. 状态管理:多 Agent 状态怎么统一管理

面试官说”不止要提 PG 持久化”,还要讲多 Agent 状态怎么统一管理。

把它讲成”运行时 + 持久化 + 隔离 三层”

  1. 运行时状态(内存):多个 Agent 共享同一个 State 对象(LangGraph),各节点通过 reducer 合并字段读写同一 State——统一管理的核心。多 Agent 通过共享 State 或 parent/child 层级关系协同,而不是各存各的。
  2. 持久化:用 PG 做 checkpoint 落库(LangGraph BaseCheckpointSaver),把所有 Agent 的状态快照按 thread_id/session_id 定点存储,支撑断点续跑 / 回溯 / 审计。
  3. 隔离与生命周期:并发/多租户下凭 session_id 定位各自的 State;会话结束清理,避免堆积。

一句话记忆

“状态统一管理 = 运行期单 State(reducer 合并) + PG checkpointer 落库(按 thread_id 定点) + 会话/租户 ID 隔离 + 生命周期清理;多 Agent 靠共享 State/层级协同。“


5. 大模型 API 选型与成本(见研究笔记)

商用 API、Token 消耗量、缓存命中优化——这些面试会问,细节在下面的研究笔记里展开。

  • 快速框架:选型看性能/价格/上下文/合规;成本看输入+输出 token × 单价,多步多 Agent 会翻倍;prompt caching 命中能显著降本。
  • → 详见 大模型API-选型与成本优化

6. 记忆与持久化(面试补强)

面试官点出:你只讲了短期记忆上下文,长期记忆几乎没讲;且你短期记忆说的是 memory 服务,其实生产里做 checkpoint 很少用内存 memory 服务,一般用 Postgres checkpointer 持久化到硬盘。

记忆分层讲法(两层都要讲)

  • 短期记忆(会话内):一次对话/任务内的消息与状态。通常放工作内存 + checkpoint 落库,支撑断点续跑。
  • 长期记忆(跨会话/跨用户):用户偏好、历史事实、领域知识,跨会话复用。
    • 常见做法:摘要(把过去对话压缩成 summary 塞进提示词)、记忆压缩/提炼、向量库存长期记忆按需检索。
    • 可在每次会话结束时把对话总结写入长期记忆。

持久化选型(生产共识,别再用”内存服务”搪塞)

  • checkpoint 用 PostgresSaver / Postgres checkpointer:状态快照按 thread_id 落库到 PG,断点续跑、回溯、可审计;比放内存服务更可靠、能持久化到盘。
  • 长期记忆存储:数据库存结构化/汇总记忆,或向量库 + 摘要。

一句话记忆

短期记忆=(会话内状态 checkpointer 落 PG);长期记忆=(摘要/压缩/向量检索);生产持久化选 Postgres 而非内存服务。

7. 模型型号 · 必背清单(面试别暴露短板)

面试官提醒:干了这么长时间,连自己用的模型型号都说不清,一下子就露怯。一定要记几个明确的「厂商 + 型号」。

要能脱口而出的,至少记 3 个你项目用过的

  • 生成/对话:OpenAI GPT-4o/GPT-4.1(o 系推理)、Anthropic Claude 4 Sonnet/Opus/3.7、Google Gemini 2.5 Pro/3 Pro;国内 DeepSeek V3/R1、通义 qwen-max/qwen3、豆包 doubao-pro、智谱 GLM-4。
  • Embedding:bge-m3(开源常用)、text-embedding-3。
  • 如果说不准就报”厂商+系列+用途”,别报个你没把握的具体版本号,报错更糟。
  • 价格/上下文以官网为准 → 详见 大模型API-选型与成本优化

一句话记忆

型号 = 厂商 + 系列 + 用途(生成/推理/embedding);至少要能报出项目里用的 3 个具体型号。

8. 多 Agent 的 State 怎么设计(Pydantic,面试补强)

面试答得不好 = 没准备真实的 state 结构和字段。这条给出设计套路 + 一套能报字段的示例(贴合”商家资质审核”多 Agent,投前改成你项目的真实字段)。

先立设计原则(能背)

  • State 是多 Agent 共享的唯一”契约/黑板”:所有节点读写同一 state,Pydantic 类型约束保证字段不跑偏。
  • 按”层”切,别一锅粥:会话层(identities/messages)+ 任务层(当前步/计划/负责 agent)+ 业务层(领域实体)+ 共享层(进度/日志/审计/证据)。
  • reducer 合并(关键):同一 key 被多个节点返回时怎么并——追加用 Annotated[list[X], operator.add],覆盖用普通字段,或写自定义 reducer(如先把答案排序再合)。
  • 校验 + 持久化:Pydantic 校验失败即节点报错可回退;state 可序列化 → checkpoint 落 PG。

示例 State(商家资质审核 · 多 Agent)——能报这几个字段就算过关

class QAState(BaseModel):
    # 会话/身份层
    session_id: str; tenant_id: str
    messages: Annotated[list[Message], add]      # reducer 追加
    # 任务层
    intent: str                                   # 意图识别结果
    current_agent: str                            # 当前负责谁(监督者写这里)
    task_plan: list[str]                          # 计划/步骤
    done_steps: Annotated[list[str], add]
    # 业务层(领域实体)
    merchant: MerchantInfo                        # 商家资质信息
    review_status: Literal["pending","pass","reject"]
    evidence: list[SourceRef]                     # 引用定位(文档/页码)
    # 共享/运维层
    tools: Annotated[list[str], add]              # 用过的工具
    error_log: Annotated[list[str], add]          # 容错记录(节点失败写这里再重试)

面试讲法一句话

State 分”会话/任务/业务/共享”四层,分 Node 各自写约定字段 + reducer 合并不冲突,Pydantic 校验做边界;多 Agent 靠共享这一份 state 协同,再序列化落 PG 支撑持久化——能报出 session_id/intent/task_plan/review_status/error_log 这些字段就说明没编。

相关笔记