FDE01前线交付
实践手册 08

AI 说完成了,怎样确认

成功、失败和状态未知,要分别处理。

本页内容本章内容思考与讨论对应练习参考资料

本章内容

把身份检查、数据、检索、规则、模型、工具和正式业务记录分开看。先找到问题发生在哪一步,再选择修复方式;不是每个问题都是模型“幻觉”。

调用工具后超时,可能已经执行,也可能没有执行。先查业务系统中的记录,再决定是否重试。需要幂等机制,也就是重复同一请求不会额外产生一笔业务动作;这一点必须实现并测试,不能假设。

长时间运行的智能体还要检查会话记录、执行循环和运行环境:信息能否保存、任务能否恢复、权限是否合适、不同任务是否隔离。使用托管产品后,客户侧的数据和业务责任仍然需要明确。

模型输出在工作流中的位置
模型输出在工作流中的位置在这个示例中,人工审核后再更新正式业务记录。审核者要能看到依据、有时间判断,也有权拒绝。任务与授权身份 / 可用资料模型与工具建议 / 待审行动人工复核批准 / 拒绝 / 接管权威记录源可审计的最终状态资料不足或超出权限:暂停、补证或转交
在这个示例中,人工审核后再更新正式业务记录。审核者要能看到依据、有时间判断,也有权拒绝。左右滑动查看完整图表。

思考与讨论

模型说完成了,你在哪里确认动作真的发生?

对应练习

继续阅读下方链接的课程,完成其中的练习。用对应模板写下你的判断、依据和待确认的问题,再按检查清单修改。有同伴时,互相看看哪些地方还不清楚。

参考资料

Anthropic / Scaling Managed Agents: Decoupling the brain from the hands