9、能否信任自主系统：边界与风险剖析

能否信任自主系统：边界与风险剖析

1. 知识的本质与分类

知识是嵌入正确概念关系网络中的真实信息，可用于理解主题或解决问题。它具有双重性质，既有助于情境感知，又能辅助决策，对认识和改造世界至关重要。

知识可按真实性和普遍性进行分层分类：
| 知识类型 | 定义 | 举例 |
| ---- | ---- | ---- |
| 事实信息 | 关于特定时间和地点的世界状况的明确知识，普遍性有限但对情境感知不可或缺 | “今天巴黎的温度是24摄氏度”“滑铁卢战役于1815年6月18日星期日爆发” |
| 一般经验知识 | 对事实知识进行概括和抽象的结果，包括隐式经验知识、统计知识和数据分析技术产生的知识 | 人类走路、说话、演奏乐器等技能 |
| 科学技术知识 | 通过模型处理和系统化的过去经验知识，基于科学知识构建新产品或流程 | 工程建设 |
| 非经验知识 | 基于逻辑规则的模型知识 | 数学知识、计算理论 |
| 元知识 | 关于如何处理知识的知识，用于情境感知和决策 | 设计方法、问题解决技术 |

经验知识和非经验知识存在显著差异。经验知识源于经验，需验证其与观察和测量的一致性；非经验知识独立于经验，其真实性仅依赖逻辑推理。例如，勾股定理和哥德尔定理分别基于欧几里得几何和算术的公理，是“永恒”的真理。

人类产生科学技术知识和数学知识时，运用的是缓慢、有意识且费力的程序性思维（系统2）；而一般经验知识中的隐式经验知识则由自动、无意识且轻松的快速思维（系统1）产生和管理。传统计算机在知识充分形式化时，能处理模型知识并产生新知识。