企业如何划分AI标识责任? - 软盟-软盟

企业如何划分AI标识责任?

话题来源: 生成式人工智能内容标识规则实施后:企业平台如何调整审核、标识与留痕流程

AI标识责任不能简单归因于模型供应商。企业真正需要建立的是一套“谁生成、谁接入、谁发布、谁留痕、谁复核”的责任链:模型负责提供可传递的标识信息,应用平台负责识别和展示,业务部门负责场景判断,审核人员负责例外处理,合规团队负责制度、留痕与监管对接。

先按业务场景划分责任

凡是AI直接生成并面向用户展示的内容,平台运营方应承担首要标识责任,包括智能客服回复、营销文案、会议纪要和内容社区作品。不能因为内容由第三方模型生成,就将责任完全转移给供应商。企业应在输出到达用户前完成来源判定,并根据传播范围选择标识方式。

面向公众的文本、图片、音频和视频,通常应同时设置用户可见的显式标识和用于追溯的隐式标识;内部协作或定向客服场景,则可重点保留后台标记,但仍需确保后续能够查询生成来源。经过翻译、润色或人工编辑的内容,也不能仅凭最终呈现形式认定为人工创作,应由应用层保留生成链路。

再按组织职能分工

产品和业务部门负责梳理场景,明确哪些输出会被用户首次看到,并确定生成时间、发布节点和标识展示位置。技术团队负责在应用层设置校验逻辑,避免只依赖模型返回的标签;同时保存生成时间、模型版本、输入摘要、输出标识状态和审核结果等记录。

审核团队不应只检查内容是否违规,还要处理误标、漏标和人工改写后的边界情形。合规团队则应制定标识规则、访问权限和异常处置流程,确保日志不可随意删除,并按要求至少保留六个月。完整模型输入输出不宜向普通运营人员开放,调取权限应与岗位职责匹配。

合同不能替代应用层责任

使用第三方API时,企业应在合同中明确标识字段传递方式、隐式标记格式和日志共享范围。供应商能够返回标准化元数据时,平台应负责透传和存储;供应商未提供时,企业仍需在应用层补充标识。最终判断标准不是“模型是否打过标签”,而是用户端能否看到、后台能否验证、监管需要时能否追溯。