AI工作流怎么做人工确认？从高风险动作识别到审批节点与执行日志的设计指南

AI工作流的人工确认，重点不是在执行前增加一个“确定”按钮，而是让高风险动作进入一个可审计、可暂停、可撤回或可补救的流程状态。设计时应先判断动作可能造成的影响，再决定是否需要确认、由谁确认以及确认的具体范围。

先按风险区分动作类型

可以将工具调用或自动化动作分为三类。只读操作通常只获取信息，不改变外部状态，例如查询资料、读取订单或生成分析结果；这类操作一般不需要逐次人工确认，但仍应记录调用过程。可撤销操作会改变状态，但可以通过回滚、取消或恢复降低影响，例如修改草稿、移动文件或创建待发布内容；这类动作可采用抽样确认、批量确认或在关键步骤确认。不可逆或影响范围较大的操作应默认进入人工审批，例如删除数据、发送外部邮件、正式发布内容、执行生产环境命令或修改权限。

动作类型	常见例子	建议控制
只读	查询、检索、分析	记录调用，必要时设置访问范围
可撤销	编辑草稿、创建任务	确认关键字段，保留回滚方式
不可逆或高影响	删除、发送、发布、部署	强制审批，执行前再次校验参数

把审批设计成明确的工作流状态

审批节点至少应包含“待确认、已批准、已拒绝、已过期、执行中、已完成、执行失败”等状态。AI生成动作后，系统不应立即调用工具，而应保存一份待审批记录，包含申请人或触发来源、确认人、确认时间、目标对象、操作参数快照、风险提示、有效期和当前状态。

参数快照尤其重要。审批人确认的应是当时看到的具体内容，而不是一个可能在后台继续变化的任务引用。执行前，系统应比较当前参数与快照；如果收件人、删除范围、发布版本、命令参数或权限范围发生变化，就应重新审批，而不是沿用原批准结果。审批也应绑定明确的权限边界，例如限定可审批的项目、环境、数据范围和金额或数量上限。

不同高风险动作的确认方式

发送邮件

AI整理资料后，可以先生成收件人、主题、正文和附件清单，进入待确认状态。人工确认时应重点核对外部收件人、敏感信息、附件内容和发送范围。发送前再次展示摘要，并使用一次性执行令牌避免重复提交。

删除数据

删除前应展示受影响的记录数量、筛选条件、代表性样本以及是否存在恢复机制。对于批量删除，可要求审批人再次输入或选择明确的影响范围。若系统支持回收站或延迟删除，应优先采用可恢复方案，并记录实际删除结果。

发布内容

发布审批应锁定待发布版本，展示标题、正文、媒体、目标渠道和发布时间。若AI在审批后重新生成内容，原审批不应自动覆盖新版本。发布完成后应记录平台返回结果和失败原因。

执行命令或部署

代码代理提出部署操作时，人工应核对变更摘要、目标环境、影响服务、回滚步骤和命令参数。生产环境可以要求更高等级的审批，例如指定角色复核或分阶段执行；但具体规则仍需结合组织自身的权限和合规要求。

建立完整的执行日志

日志应覆盖从提议到完成的全过程，包括工作流实例、工具名称、调用时间、输入参数摘要、参数快照版本、审批人、审批意见、执行开始与结束时间、执行结果、外部系统返回信息、失败原因和人工干预过程。敏感字段不宜直接写入普通日志，可采用脱敏、加密或引用安全存储的方式。日志还应区分AI提出的动作、人工修改的内容和系统最终执行的内容。

处理常见异常

• 重复点击：为审批和执行请求设置唯一流水号，并在服务端做幂等校验，不能只依赖按钮禁用。
• 审批超时：超过有效期后自动转为已过期，执行端拒绝使用过期批准；是否重新提交应由流程规则决定。
• 撤回审批：在执行开始前允许有权限的人员撤回；进入执行中后，应根据工具能力决定是否停止或转入补救流程。
• 参数被修改：对比审批快照与实际参数，只要关键字段变化就回到待确认状态。
• 执行失败：保留失败原因和已完成步骤，避免自动重试造成重复发送、重复删除或重复部署。

这样设计后，人工确认就不再是孤立的交互提示，而是连接风险识别、权限判断、参数锁定、执行控制和审计记录的工作流节点。它不能消除全部自动化风险，但能让高风险动作在执行前获得清晰、可追溯且与实际参数一致的人工判断。