容错与鲁棒性:超时、报错、误操作的工程化处理
Agent 的容错设计是面试中最容易暴露“做没做过真实系统”的维度。Demo 环境里 API 永不超时、工具永不报错,但生产环境什么都会出问题。面试官考的就是:出了问题你怎么办,系统设计上怎么防。
本篇目录
- 错误恢复与容错
- 幻觉治理与行为约束
- 资源管理与安全防护
- Q:Skill 间需要传递敏感信息时,如何做到内部可用、对用户不可见?
- 高风险场景防护
- Q:Agent 系统中网络抖动 vs 真实故障,如何区分判断?
- Q:NL2SQL 场景下的 SQL 安全防护怎么做?
- 上下文爆炸与工具循环调用
- Fallback 机制设计
- 多层级失败重试机制
- 状态机卡死与熔断
- Q:工具调用返回结果为空或调用失败,Agent 应该怎么处理?是直接重试还是换策略?
- Q:页面结构变化导致 Skill 失效时,如何检测、降级与修复?
- Q:Agent 失败通常有哪些原因?如何快速定位责任层?
- Q:所有模型超时或故障时怎么兜底?什么时候用规则引擎,什么时候转人工,服务恢复后怎么回切?
- Q:Agent Workflow 如何保证节点原子性,并在部分成功后安全回滚?
- Q:LLM 没有走标准 Tool Call,而是在文本里直接输出命令请求,系统如何识别、执行并拦截风险?
- Q:如何对自己的 Agent 做系统化红队测试,而不是只测 Prompt Injection?
- Q:Coding Agent 看到 .env 文件会怎样?如何设计安全边界?
- Q:长时间运行的 Coding Agent 等待用户决策时,如何避免任务永久卡住?
- Q:工具失败后,哪些异常处理应由大模型参与,哪些必须由确定性程序控制?
- Q:为什么安全攻击检测不能只依赖大模型?规则、专用模型和 LLM 应该如何分工?
- Q:Agent 无法处理任务时,“求助 / 升级”状态机应该如何设计?
- 这类题的答题模式