第 08章 / 24

可信的生成与验证架构

在图谱中探索本章概念 ↗

8.1

四层架构与稳定中间表示

建议采用资料层、语义层、呈现层和验证层的四层架构。资料层保存来源、日期、访问范围与版本;语义层保存经过确认的概念、关系、规则和变量;呈现层负责布局、图形语法、语言与输出格式;验证层检查来源对应、结构约束、计算和可读性。四层可以由一个系统实现,也可以由多个工具配合;关键是逻辑上可以区分,出现错误时知道回到哪里修复。

例如,酒店政策变化是资料层更新,流程中增加人工确认是语义层修改,把中文标签翻成英文是呈现层修改,发现审批分支无法回到主流程是验证层问题。若这些修改都直接发生在最终图片上,后续版本很难保持一致。保留中间表示后,一次概念修正可以传播到PPT、手册、作业和英文图中,同时留下修改记录。

中间表示还应包含不确定性。一个关系可以是来源明确、教师确认、模型推测或等待验证;一个数值可以是观察值、估计值或教学情境值。不同状态不是装饰标签,而会决定系统是否允许发布、是否需要图注和是否触发人工复核。这样,可信度管理进入生成流程,不再依赖最后一位审核者凭记忆补救。

8.2

四种验证各自解决不同问题

第一种验证检查语法:代码是否能解析,节点编号是否重复,输出文件是否完整。第二种检查结构:是否存在悬空节点、无法到达的状态、缺失的分支条件或无限循环。第三种检查语义:一条关系是否符合原文,某个动作是否属于该岗位,一项术语是否在中英文中保持相同含义。第四种检查经验与后果:模型假设是否符合实际,方案是否在小规模试验中达到目标。通过前一种,并不意味着自动通过后一种。

图表也可以按这四种验证设计检查。代码运行成功只说明它被执行;图没有重叠只说明布局可读;数据映射正确才支持数值解释;真实业务试验才可能支持行动效果。AI可以协助前三种检查,但自检容易受到同一错误解释影响。关键事实、计算和权限应尽可能采用独立规则、原始资料或人员复核。让同一模型重复说“检查通过”不构成独立证据。

本报告建议每张关键图附一个简短验证记录:来源已核对,关系已确认,计算已执行,限制已说明。记录还应允许“未检验”状态。例如合成收益曲线可以通过计算核验,但经验有效性应标为未验证。把未验证明确写出来,通常比给整张图一个笼统的绿色通过图标更诚实,也更能指导下一步工作。

来源语义呈现与验证分层
图 8. 来源语义呈现与验证分层

本报告提出的概念与设计示意 Conceptual design proposed in this report

图内保留中英双语标签;正文提供相应解释。点击查看大图。

8.3

证据如何连接到图中的一个元素

可追溯性应细到重要节点和关键连线,而不只是文末列出一串参考文献。一个政策决策节点可以连接到原始条款,数据柱可以连接到过滤后的记录,研究证据图可以连接到原文中的效应量说明。为了降低维护负担,不要求每一个装饰元素都有来源,但任何影响判断的事实、数字和规范都应可定位。AI生成的补充解释应与来源陈述分别记录,避免把合理推测伪装成引用。

具体操作可采用来源编号加元素编号。例如源文件S03中的第三条政策支持节点N12;分析脚本T02产生图表F06中的序列B。中英文标签共享N12,而不是各自维护两个事实副本。引用定位不必暴露敏感数据,读者可以看到受控说明与访问条件。对学生课程,教师可以使用去标识化资料或模拟数据,让可追溯练习不依赖真实顾客信息。

证据还需要时间维度。一次回答引用正确的旧政策,仍可能在当前场景出错。资料层应存生效时间与版本,而不只是上传日期。对于搜索资料,记录检索日期与访问位置;对于计算,记录参数与运行版本;对于人工判断,记录确认人和理由。这样的记录能够解释为什么上周正确的图在本周需要更新。

8.4

权限与失败路径进入设计

课程和企业系统都应画出失败情况。资料缺失、工具报错、数据越权、模型不确定和用户改变目标,不是罕见例外,而是正常运行条件。一个工作流至少应说明停止、追问、重试和转人工的条件。重试应有次数或时间上限,否则自动化可能在没有新信息的情况下持续消耗资源。对外发送、退款、价格修改和数据删除等动作,应具有与后果相称的授权控制。

NIST的生成式AI风险框架为识别、测量和管理风险提供通用参照。[30]在本报告的课程设计中,这被转化为具体图形要求:权限边界可见,关键动作可回溯,异常状态有出口,责任人可识别。它们是教学与工程建议,而不是宣称满足某一图形格式就已经满足全部法规或组织政策。真实部署仍应使用所在机构的要求进行核对。

表 8. 分层架构的错误定位
层次典型错误修复与责任
资料层政策过期或范围不明资料负责人核对有效期
语义层顺序误作因果领域人员确认关系
数据变换重复订单被多次计数分析人员检查规则
呈现层标签拥挤或单位缺失设计者调整编码布局
执行层越权或无重试上限系统负责人限制权限
经验验证改善机制未被支持小范围测试并修订
本报告的综合分析与设计建议 Report synthesis and design recommendations