一句话总结：生产级 Agent 不是「全自动」，而是「AI 处理常规、人工处理例外」。设计清晰的置信度阈值、审批节点与升级路径，是金融、医疗、政务场景落地的标配。
四种协同模式
| 模式 | 说明 | 示例 |
|---|---|---|
| AI 建议 + 人决策 | AI 出草案，人确认 | 合同条款审核 |
| AI 执行 + 人抽查 | 批量处理，抽样复核 | 发票分类 |
| 分级路由 | 简单自动、复杂转人工 | 智能客服 |
| 人在回路 | 关键步骤必须人工点击 | 转账、删数据 |
置信度路由
Agent 输出 + confidence score
├─ ≥ 0.85 → 自动执行/回复
├─ 0.5–0.85 → 人工确认后执行
└─ < 0.5 → 直接转人工阈值需用真实 bad case 校准，不能拍脑袋。
UI/UX 要点
- 展示 AI 推理依据与引用来源
- 一键「采纳 / 修改 / 拒绝」
- 拒绝原因反馈用于后续优化
泽衍科技经验
制造业设备诊断 Agent 采用「AI 初判 + 工程师确认」模式，误报率下降 40%，工程师接受度显著高于「黑盒全自动」方案。