高风险问答不能把“模型给出答案”视为流程终点。涉及合同条款、财务要求、人事制度、客户服务规则或技术安全操作时,错误回答可能直接影响业务决策,因此系统应建立人工复核机制:模型负责检索和组织证据,具备相应职责的人员负责确认结论是否适用、引用是否准确,以及是否需要转交专业部门。
先定义哪些问题必须复核
人工复核不应依赖用户自行判断,而应在系统中形成明确触发条件。问题涉及受限资料、合同责任、金额或期限、制度例外、产品安全、权限变更,或者检索结果存在版本冲突、证据不足时,应进入复核流程。对于无法找到充分依据的问题,系统应优先提示“当前资料不足”,而不是让模型自行补全。
复核范围也不能只覆盖最终答案。审核人员需要同时检查用户身份与访问范围、命中文档是否属于授权内容、文档是否仍在有效期内,以及引用内容能否真正支撑结论。若同一事项存在多份制度或合同版本,还应确认适用版本,并在必要时标明冲突和生效条件。
把人工复核嵌入问答链路
较稳妥的流程是:用户提问后,系统先完成身份识别和权限过滤,再进行关键词与语义检索;模型基于授权证据生成草稿,并附上文档名称、章节、版本或更新时间等定位信息;随后由复核人员确认、修改、退回补充资料,或将问题转交法务、人力、财务等责任部门。未经确认的内容不应以确定性口吻直接作为业务指令。
复核记录应保留用户、时间、问题、命中文档、原始答案、修改内容、审核人和最终引用信息。这样既能追溯一次回答的责任链,也能区分问题究竟来自资料缺失、检索错误、版本过期、权限配置不当,还是模型理解偏差。
人工复核并非简单增加一道审批,而是风险分层后的控制手段。低风险、证据充分且权限清晰的问题可以直接回答;高风险或证据冲突的问题必须升级处理。企业还应定期分析被退回和人工纠正的问答,将重复错误反馈给文档负责人、权限管理员和模型运营人员。只有让“发现风险—人工判断—记录结果—持续改进”形成闭环,高风险问答才具备可控性和可追责性。
