认知不确定性（Epistemic Uncertainty, EU）和随机不确定性（Aleatoric Uncertainty, AU）

最新推荐文章于 2025-10-29 20:12:18 发布

原创最新推荐文章于 2025-10-29 20:12:18 发布 · 791 阅读

CC 4.0 BY-SA版权

文章标签：

2 篇文章

订阅专栏

部署运行你感兴趣的模型镜像

在深度学习中，不确定性可以分为两种主要类型：认知不确定性（Epistemic Uncertainty, EU）和随机不确定性（Aleatoric Uncertainty, AU）。这两种不确定性反映了模型预测中的不同来源的不确定性，理解它们的区别对于模型的可靠性和可解释性至关重要。

认知不确定性是指由于模型本身的不完善或知识不足而导致的不确定性。它是由于模型的结构、参数选择、训练数据的有限性等因素引起的。换句话说，认知不确定性反映了模型对数据的“无知”程度。

可减少性：认知不确定性可以通过获取更多的数据、改进模型结构或增加模型复杂度来减少。例如，如果模型在某些数据上表现不佳，可能是因为训练数据不足或模型过于简单。
与模型相关：认知不确定性与模型的选择和训练过程密切相关。不同的模型结构（如不同的神经网络架构）可能会表现出不同程度的认知不确定性。
反映模型的不确定性：它反映了模型对输入数据的预测能力的不确定性。例如，如果模型在某个输入上表现出高认知不确定性，可能是因为它从未见过类似的输入，或者模型的结构不适合处理这种输入。

随机不确定性是指由于数据本身的随机性或噪声而导致的不确定性。它是由于数据本身的不可预测性引起的，例如传感器噪声、数据测量误差或数据本身的随机变化。

不可减少性：随机不确定性是数据本身的固有属性，无法通过获取更多数据或改进模型结构来减少。例如，如果数据中存在传感器噪声，这种噪声是无法通过改进模型来消除的。
与数据相关：随机不确定性与数据的质量和特性密切相关。例如，数据中噪声越多，随机不确定性越高。
反映数据的不确定性：它反映了数据本身的不确定性，而不是模型的不确定性。例如，即使模型非常完美，由于数据本身的随机性，预测结果仍然可能存在不确定性。

特性	认知不确定性（Epistemic Uncertainty, EU）	随机不确定性（Aleatoric Uncertainty, AU）
来源	模型的不完善、知识不足、训练数据有限	数据本身的随机性、噪声、不可预测性
可减少性	可通过更多数据、改进模型结构减少	数据本身的固有属性，无法减少
与模型的关系	与模型选择和训练过程密切相关	与数据质量密切相关，与模型关系较小
应用场景	主动学习、模型选择、安全关键应用	风险评估、数据预处理、模型解释

贝叶斯神经网络（Bayesian Neural Networks, BNNs）：通过引入概率分布来表示模型的参数，而不是固定的值，从而量化模型的不确定性。
蒙特卡洛 Dropout（Monte Carlo Dropout）：在训练和测试阶段随机丢弃神经元，通过多次前向传播来估计模型的不确定性。
集成方法（Ensemble Methods）：训练多个不同的模型，通过比较它们的预测结果来估计不确定性。