🕸 Agent 系统 · 项目深挖
说明
面试中被追问、且没讲清楚的项目细节。这篇把每个点拆成「该怎么讲 + 关键 reasoning + 面试官想看什么」,便于口头复述。文中涉及数字均为通用参考值(已标注估算),面试前请替换成你们的真实值。
1. 意图识别(把「闲聊 vs 专业路由」讲透)
面试官反映:你只说了一个”闲聊”,专业路由这边没展开,BERT 到底做了啥也没说。
怎么讲(分层)
- 意图识别是 Agent 的入口分流:它回答”用户这句话想干什么”,据此决定走专业流程还是闲聊或其他。
- BERT 意图分类模型的构成:
- 输入句 → BERT 得到句子向量 → 接分类头(softmax 多分类),映射到预定义意图集合。
- 意图集合不只是 {闲聊, 专业},专业侧还要细分(如:查知识库 / 调工具A / 多轮澄清 / 下单 / 运维操作…),每个意图对应一条路由。
- 闲聊怎么处理:闲聊作为一类独立意图;或对专业类别给低置信度阈值兜底。命中闲聊 → 走闲聊生成(小模型/开放闲聊),不进专业流程。
- 兜底设计(面试加分):预测置信度低于阈值 → 转澄清/拒答引导,而不是强行路由,避免误操作。
- 工程细节可提:领域数据微调 BERT、类别不均衡处理、预测时 top-k + 阈值双判。
一句话记忆
“用 BERT 分类头做多类意图识别:专业意图细分 + 闲聊兜底 + 低置信度走澄清。“
(面试官要听的就是这句,然后是上面第 2-4 点的展开)
📌 通用参考值(估算):意图类别数=8~15 个(1 个闲聊 + 其余专业意图,如查知识/调工具/多轮澄清/下单/运维…);BERT 做了领域小样本微调(几百~几千条标注数据);置信度阈值=0.6~0.7,低于则走澄清兜底。
2. 意图之后:调用工具 / MCP,怎么筛选工具
面试官想说啥
他问”主路由 / 怎么路由”时,想听的通常是意图识别那一整套思路(先粗筛再精筛、一层层往下走),别只报一句结果。展开 §1(意图识别)+ §2(工具筛选)一起讲最稳。
面试官连环问:是否走意图判断做工具筛选?是否走相似度精筛?工具加载多少?几类?每次 topk?还是写死路由?——你没说明白。
把设计讲成”分层筛选”,不含糊
- 第一层:意图 → 候选工具集合。每个意图预绑定一组”这个意图可能用到的工具”(意图-工具映射表)。先粗过滤掉无关工具。→ 回答”做了,按意图粗筛”。
- 第二层:相似度精筛(可选)。基于工具
description/功能向量,对用户 query 与工具描述算 embedding + 余弦相似度,在候选集内取 topK。→ 回答 K 值 + 在哪个维度上比。 - 两层都不行/不需要时:工具少(<50)可直接意图→映射,不必上 embedding;工具很多才需要第二层召回。
- 接 MCP:MCP 提供标准工具接入和工具元数据(名称/描述/参数 schema);路由层消费这些描述做筛选,最后把选中的工具名 + 参数 schema 交给大模型 function-calling。
必须能答的具体参数(面试官盯着这些问)
| 问题 | 参考口径 | 通用参考值(估算) |
|------|----------|------|
| 工具有多少 | 报总数 N | 30~100 个注册工具 |
| 分几类 | 业务查询/运维/知识/计算… | 5~8 类 |
| 意图粗筛命中集合 | S(远小于 N) | 单意图绑 5~15 个候选工具 |
| 相似度 topk | K ≈ 3~5,可配置 | topk = 3~5 |
| 还是写死路由 | 优先”配置化路由”,不写死,新工具免改码 | 配置化:意图-工具映射表 + 动态 topk |
关键 reasoning(说出来显功力)
- 用意图过滤比每次全量 embedding 更省、更可控、可解释。
- 相似度用于”工具多时对候选召回精化”,不是触发全部工具。
- “写死路由”的缺点:不可扩展、新工具要改代码 → 用配置/映射表 + 动态 topk。
一句话记忆
“意图先粗筛候选工具,必要时再在候选内做相似度 topk 精筛;路由配置化不写死,MCP 提供工具 schema 供消费。“
3. 并发模型(项目实战,含多租户隔离)
你在复盘里给了很实在的做法,整理成标准答案;另补上多租户会话隔离。
立场:Python 协程,单进程单线程事件循环(GIL 决定不靠多线程)。
- 单线程协程并发 1w~10w 都 OK,toB 场景足够,根本不需要多线程。
- 大模型调用必须走 async 接口;若遇同步函数:
- IO 密集 → 线程池(
asyncio.to_thread),不卡循环 - CPU 密集 → 进程池(
ProcessPoolExecutor)躲 GIL
- IO 密集 → 线程池(
- 数据库:对接时连接池要满足并发(连接数 ≥ 峰值并发/复用,或用 async 驱动连接池如 aiosqlite/asyncpg)。
多租户会话隔离(新增,面试加分)
- 用自定义 ID=
租户ID + 会话ID,作为状态存取、缓存、数据库/Redis key 的统一前缀。 - 效果:单进程多租户高并发下,每个请求协程凭自己的 ID 读写彼此隔离的状态与上下文,不串话、不互相覆盖。
- 一句话:高并发 + 多租户下,“身份隔离靠自定义 ID,而不是靠多进程多线程”。
一句话记忆
“单进程协程 1w~10w,LLM 走 async、同步函数按 IO/CPU 分流给线程/进程池,DB 用足并发连接池;多租户靠『租户+会话』自定义 ID 隔离上下文。“
4. 状态管理:多 Agent 状态怎么统一管理
面试官说”不止要提 PG 持久化”,还要讲多 Agent 状态怎么统一管理。
把它讲成”运行时 + 持久化 + 隔离 三层”
- 运行时状态(内存):多个 Agent 共享同一个 State 对象(LangGraph),各节点通过 reducer 合并字段读写同一 State——统一管理的核心。多 Agent 通过共享 State 或 parent/child 层级关系协同,而不是各存各的。
- 持久化:用 PG 做 checkpoint 落库(LangGraph
BaseCheckpointSaver),把所有 Agent 的状态快照按thread_id/session_id定点存储,支撑断点续跑 / 回溯 / 审计。 - 隔离与生命周期:并发/多租户下凭 session_id 定位各自的 State;会话结束清理,避免堆积。
一句话记忆
“状态统一管理 = 运行期单 State(reducer 合并) + PG checkpointer 落库(按 thread_id 定点) + 会话/租户 ID 隔离 + 生命周期清理;多 Agent 靠共享 State/层级协同。“
5. 大模型 API 选型与成本(见研究笔记)
商用 API、Token 消耗量、缓存命中优化——这些面试会问,细节在下面的研究笔记里展开。
- 快速框架:选型看性能/价格/上下文/合规;成本看输入+输出 token × 单价,多步多 Agent 会翻倍;prompt caching 命中能显著降本。
- → 详见 大模型API-选型与成本优化
6. 记忆与持久化(面试补强)
面试官点出:你只讲了短期记忆上下文,长期记忆几乎没讲;且你短期记忆说的是 memory 服务,其实生产里做 checkpoint 很少用内存 memory 服务,一般用 Postgres checkpointer 持久化到硬盘。
记忆分层讲法(两层都要讲)
- 短期记忆(会话内):一次对话/任务内的消息与状态。通常放工作内存 + checkpoint 落库,支撑断点续跑。
- 长期记忆(跨会话/跨用户):用户偏好、历史事实、领域知识,跨会话复用。
- 常见做法:摘要(把过去对话压缩成 summary 塞进提示词)、记忆压缩/提炼、向量库存长期记忆按需检索。
- 可在每次会话结束时把对话总结写入长期记忆。
持久化选型(生产共识,别再用”内存服务”搪塞)
- checkpoint 用 PostgresSaver / Postgres checkpointer:状态快照按
thread_id落库到 PG,断点续跑、回溯、可审计;比放内存服务更可靠、能持久化到盘。 - 长期记忆存储:数据库存结构化/汇总记忆,或向量库 + 摘要。
一句话记忆
短期记忆=(会话内状态 checkpointer 落 PG);长期记忆=(摘要/压缩/向量检索);生产持久化选 Postgres 而非内存服务。
7. 模型型号 · 必背清单(面试别暴露短板)
面试官提醒:干了这么长时间,连自己用的模型型号都说不清,一下子就露怯。一定要记几个明确的「厂商 + 型号」。
要能脱口而出的,至少记 3 个你项目用过的
- 生成/对话:OpenAI
GPT-4o/GPT-4.1(o 系推理)、AnthropicClaude 4 Sonnet/Opus/3.7、GoogleGemini 2.5 Pro/3 Pro;国内 DeepSeekV3/R1、通义qwen-max/qwen3、豆包doubao-pro、智谱GLM-4。 - Embedding:
bge-m3(开源常用)、text-embedding-3。 - 如果说不准就报”厂商+系列+用途”,别报个你没把握的具体版本号,报错更糟。
- 价格/上下文以官网为准 → 详见 大模型API-选型与成本优化
一句话记忆
型号 = 厂商 + 系列 + 用途(生成/推理/embedding);至少要能报出项目里用的 3 个具体型号。
8. 多 Agent 的 State 怎么设计(Pydantic,面试补强)
面试答得不好 = 没准备真实的 state 结构和字段。这条给出设计套路 + 一套能报字段的示例(贴合”商家资质审核”多 Agent,投前改成你项目的真实字段)。
先立设计原则(能背)
- State 是多 Agent 共享的唯一”契约/黑板”:所有节点读写同一 state,Pydantic 类型约束保证字段不跑偏。
- 按”层”切,别一锅粥:会话层(identities/messages)+ 任务层(当前步/计划/负责 agent)+ 业务层(领域实体)+ 共享层(进度/日志/审计/证据)。
- reducer 合并(关键):同一 key 被多个节点返回时怎么并——追加用
Annotated[list[X], operator.add],覆盖用普通字段,或写自定义 reducer(如先把答案排序再合)。 - 校验 + 持久化:Pydantic 校验失败即节点报错可回退;state 可序列化 → checkpoint 落 PG。
示例 State(商家资质审核 · 多 Agent)——能报这几个字段就算过关
class QAState(BaseModel):
# 会话/身份层
session_id: str; tenant_id: str
messages: Annotated[list[Message], add] # reducer 追加
# 任务层
intent: str # 意图识别结果
current_agent: str # 当前负责谁(监督者写这里)
task_plan: list[str] # 计划/步骤
done_steps: Annotated[list[str], add]
# 业务层(领域实体)
merchant: MerchantInfo # 商家资质信息
review_status: Literal["pending","pass","reject"]
evidence: list[SourceRef] # 引用定位(文档/页码)
# 共享/运维层
tools: Annotated[list[str], add] # 用过的工具
error_log: Annotated[list[str], add] # 容错记录(节点失败写这里再重试)面试讲法一句话
State 分”会话/任务/业务/共享”四层,分 Node 各自写约定字段 + reducer 合并不冲突,Pydantic 校验做边界;多 Agent 靠共享这一份 state 协同,再序列化落 PG 支撑持久化——能报出
session_id/intent/task_plan/review_status/error_log这些字段就说明没编。
相关笔记
- 面试收集 MOC
- AI&大模型(内 Q1 讲 LangGraph Agent 模式,与本篇互补)
- 大模型API-选型与成本优化
- 提示词工程 vs Agent 系统 → 系统性对比
- 03-系统&网络(内 Q1 讲协程调度同步函数原理)