自适应逻辑网络:原理、优势与挑战
1. 自适应布尔逻辑网络基础
自适应逻辑网络(ALNs)中,存在一种由灵活逻辑门构成的二叉树结构。定义了 LEFT 和 RIGHT 函数,即 LEFT(x, y) = x ,RIGHT(x, y) = y。这些函数有助于改变网络输入以及逻辑树内部的连接。
当在计算机上进行串行模拟时,这种系统能够利用布尔逻辑的惰性求值特性。这里的“惰性”指的是省略不必要的计算。例如在图 C1.8.14 的网络中,若 z 连接的值为 1,那么上方 OR 门的输出必定为 1,无论 OR 门右侧输入的整个子树的求值结果如何,右侧子树都无需进行求值。同理,当 0 信号进入 AND 门时也会出现类似情况。
通过惰性求值,在评估特定输入的响应时,网络的很大一部分可以被忽略。对于一个 L 层的平衡二叉树,平均而言,渐近地只需评估约 2 (3/4)L 的节点,并且随着树变得无限大,这个比例趋近于零。
2. 单调性的作用
自适应布尔逻辑元素中使用的四个函数恰好是所有非恒定、弱单调递增的双变量布尔函数。对于实变量函数 z = f (x, y),若在变量 x 增加时,输出 z 要么增加要么保持不变,则称该函数在变量 x 上是弱单调递增的;若输出 z 要么减少要么保持不变,则称其在变量 x 上是弱单调递减的。例如,z = 5x - 3y 在 x 上单调递增,在 y 上单调递减。对于布尔函数,同样适用这些定义,其中布尔值遵循 1 > 0 的约定。
在多层学习系统中,单调性非常有用。如果网络中的所有单元都计算单调递增函数,那么整个网络函数也是单调递增的。这会在单元输出和网络输出之间形成一种正相关关系,尽管这种关系可能很弱。
超级会员免费看
订阅专栏 解锁全文
1020

被折叠的 条评论
为什么被折叠?



