20、神经网络设计的逻辑基础

神经网络设计的逻辑基础

在神经网络设计领域，逻辑一致性起着至关重要的作用，它要求概率和“影响度（bearing）”分别作为衡量“断言的蕴含程度”和“问题的蕴含程度”的独特指标。本文将深入探讨这些概念，并详细阐述如何为“影响度”指定精确的计算形式，进而构建一个具备特定功能架构的推理逻辑单元（ILU）。

逻辑、概率与影响度

在深入探讨 ILU 的架构之前，我们需要先理解几个核心概念：逻辑、概率和影响度。

逻辑是构建推理和决策的基础。在逻辑体系中，问题和断言存在着紧密的逻辑联系。任何问题都可以通过其可能引发的答案集合来定义，而断言则由能够回答的问题集合所界定。这些特性对于实现因果信息流动至关重要。

概率是衡量断言蕴含程度的关键指标。对于 ILU 而言，决策通常基于条件概率 p(y|x ∧ a)，其中 x 是输入信息，a 是基本前提，p(y|x ∧ a) 表示在已知 x 和 a 的情况下做出决策 y 的可能性。概率为归纳推理提供了坚实的基础，使 ILU 能够在不完全信息的情况下做出合理的决策。

影响度则用于衡量问题对解决特定问题的贡献程度。在 ILU 中，影响度 b(Y|A) 和 b(X ∨ Y|A) 分别描述了信息传输和转换的关键方面。其中，A 是 ILU 的问题，即“我的输入是什么？”（X）和“我的输出是什么？”（Y）的结合。

为了更清晰地理解这些概念，我们来看一些关键的性质和公式：
- 概率的性质 ：
| 性质 | 注释 |
| — | — |
| p(b ∧ c|a) = p(b|a)×p(c|a ∧ b) = p(c|a)×p(b|a ∧ c) |