可信AI：答案之外，更需可追溯的依据

给出了答案，然后呢？ 
——合规环境下，可信比“聪明”更重要

一份分析报告，逻辑清晰、措辞专业，几秒钟就能生成；一个预测模型，在历史数据上表现出很高的准确率；一个智能助手，能够迅速回答复杂的业务问题。

这些能力令人期待。但当AI进入研发、质量管理和其他合规业务流程时，使用者仍然需要回答一个更实际的问题：

这个结果，是否足以支持下一步行动？

对创腾而言，这是理解企业AI价值的关键。模型能力决定了AI能够完成哪些任务，而可信程度决定了企业能够将哪些工作交给它。

预测准确是重要的起点。让结果经得起核验、让使用边界清晰、让责任能够落实，才能使AI持续服务于真实业务。

一次“答对”，还不足以建立信任

在日常交流中，一个大体正确的答案可能已经足够。但在合规环境中，结论往往需要与证据一起接受审查。

以实验室中的方法查询为例。假设研究人员向AI提问：“这个样品应该采用哪种检测方法？”

AI迅速给出了方法名称、操作步骤和判定标准。从文字上看，答案没有明显错误。然而，进一步核对可能发现：它引用的是历史版本，适用于另一种样品类型，或者遗漏了当前项目的一项特殊要求。

即使答案中的知识本身正确，放到具体业务中，也可能不适用。

因此，对企业AI的评价需要追问：它依据什么作答？是否理解了问题的适用条件？当资料存在冲突时，它如何处理？当依据不足时，它是否仍然给出确定结论？

信任，来自这些问题有可核查的答案。

比完整回答更可贵的，是准确表达边界

人们习惯把“有问必答”视为智能的表现。但在专业工作中，知道何时需要补充信息，同样是一种能力。

面对上述方法查询，一个值得信赖的AI助手，可能需要先确认样品类别、研究阶段和文件生效状态。当条件不充分时，它应当指出缺少哪些信息；当不同文件的要求不一致时，它应当呈现差异，提示进一步核实。

这种回答能够帮助使用者更接近正确决策。

我们认为，企业在评价AI时，应当把“识别无法判断的情况”纳入能力要求。系统需要清楚区分已有事实、分析推断和待确认事项，使使用者理解每一项输出的依据与局限。

尤其在涉及质量判断的场景中，未经证实的确定性，可能比一个明确暴露的信息缺口更难发现。

SDH可以发挥的作用：让AI获得有来源、有背景的数据

从创腾关注的研发数字化与实验室信息化视角看，AI的可靠性与企业的数据基础紧密相连。

一个检测结果，除了数值，还关联着样品身份、方法版本、仪器状态、实验条件和审核记录。只有保留这些关系，使用者才能理解结果如何产生，以及适合用于哪些判断。

然而，这些信息往往分散在不同系统和文件中。单独取出一份报告，可能看不到对应的原始记录；单独读取一个数值，也可能无法确认它采用了哪一种方法。

这正是创腾科学数据基因组平台SDH可以发挥作用的环节。SDH支持跨源数据融合与溯源，为分散科学数据的关联和利用提供基础。

图：SDH 科学数据基因组：数据-业务关联组织与溯源

在可信AI的建设中，这类能力可以沿着三个方向发挥价值。

• 首先是连接数据与业务背景。围绕样品、实验或项目，将来自不同来源的信息建立关联，帮助AI在分析数值时，同时获得必要的实验条件与方法背景。具体能关联哪些信息，取决于源系统的数据完整性及实际集成范围。

• 其次是为核验提供路径。通过数据溯源，让分析结果能够追溯到相应来源，为专业人员检查依据提供支持。在AI应用层进一步将回答与这些来源关联，使用者就有机会从一项结论回到具体记录，核实它是否被正确理解和引用。

• 第三是为科学数据复用创造条件。当不同来源的数据经过适当整理，具有清晰的身份、含义和关联关系后，企业可以更有依据地选择适用数据，用于检索、分析或模型开发，减少脱离背景使用数据的风险。

这些作用不会自动赋予AI“合规资格”，却能为判断AI是否可信提供重要基础。数据平台、AI应用和业务流程仍需共同设计，并针对实际用途进行验证。

从“找到一个答案”，到“找到适用的依据”

回到检测方法查询的示例。

如果AI只能搜索零散文件，它可能找到一份内容相似的方法，然后生成答案。但在完成相应数据集成与治理的条件下，SDH可以为AI提供更完整的关联信息：当前样品属于哪个项目，相关检测记录采用过哪些方法，这些记录分别来自哪里。

文件是否生效、方法是否适用，还需要源系统提供可靠状态信息，并由应用中的规则和审核流程加以控制。这样，AI才有条件结合具体背景组织回答，而使用者也能沿着数据关联核查依据。

当关键信息缺失时，系统应当明确提示缺口；当来源之间存在冲突时，应当保留差异，交由专业人员确认。

对于企业而言，这样的工作方式更有实际价值：AI帮助缩短查找和整理信息的时间，SDH支持数据关联与溯源，专业人员据此评估证据是否充分。

图：SDH 统计分析示例

信任应当落实到每一个具体用途

同一个模型，可以胜任文献初筛，却未必适合直接支持质量结论；可以帮助生成报告草稿，却仍需经过专业审核才能进入正式记录。

这意味着，“这个AI是否可靠”需要被进一步具体化为：“它在什么条件下，可以承担哪一项任务？”

企业应当明确AI的输入范围、输出用途和错误后果，并据此评估表现。对于关键场景，验证还应覆盖资料缺失、文件冲突和输入超出范围等情况，观察系统能否发现问题并及时交由人员处理。

图：SDH 仪表板：活性项分析示例

SDH提供的数据基础也需要纳入这一管理过程。新增数据源、调整数据映射或更新关联规则，都可能影响AI获取的信息，需要评估其对下游用途的影响。

信任需要随着数据、模型和业务流程的变化持续维护。

人的审核，需要有条件、有依据

“最终由人确认”是常见的安排，但一个确认按钮并不能自动形成有效监督。

如果审核人员只能看到最终答案，却无法方便地查看来源、理解推断依据或识别遗漏，审核就会变得困难。答案越专业、越流畅，使用者越容易忽略其中需要质疑的部分。

有效的人工审核，需要系统把关键证据呈现出来，把不确定性标识出来，并保留人员修改、否决和补充调查的空间。SDH所支持的数据溯源，可以为这一过程提供基础；AI应用则需要把这些来源以便于核查的方式呈现给使用者。

图：SDH 仪表板：数据可视化分析（工艺分析示例）

在创腾看来企业引入AI的价值，应当体现在专业工作的改善上：寻找证据是否更容易，遗漏是否更少，调查是否更充分，最终决定是否更有依据。

SDH能够帮助企业连接和利用科学数据，AI能够辅助理解与分析，专业人员负责在具体业务中审查证据、作出判断。三者之间的协作越清晰，AI的能力就越容易转化为可靠的业务价值。

当每一次建议都有来源可查、每一项使用都有边界可循、每一个关键决定都有责任可落实，AI的“聪明”才能转化为企业愿意长期依赖的能力。