50、自适应逻辑网络:原理、优势与挑战

自适应逻辑网络:原理、优势与挑战

1. 自适应布尔逻辑网络基础

自适应逻辑网络(ALNs)中,存在一种由灵活逻辑门构成的二叉树结构。定义了 LEFT 和 RIGHT 函数,即 LEFT(x, y) = x ,RIGHT(x, y) = y。这些函数有助于改变网络输入以及逻辑树内部的连接。

当在计算机上进行串行模拟时,这种系统能够利用布尔逻辑的惰性求值特性。这里的“惰性”指的是省略不必要的计算。例如在图 C1.8.14 的网络中,若 z 连接的值为 1,那么上方 OR 门的输出必定为 1,无论 OR 门右侧输入的整个子树的求值结果如何,右侧子树都无需进行求值。同理,当 0 信号进入 AND 门时也会出现类似情况。

通过惰性求值,在评估特定输入的响应时,网络的很大一部分可以被忽略。对于一个 L 层的平衡二叉树,平均而言,渐近地只需评估约 2 (3/4)L 的节点,并且随着树变得无限大,这个比例趋近于零。

2. 单调性的作用

自适应布尔逻辑元素中使用的四个函数恰好是所有非恒定、弱单调递增的双变量布尔函数。对于实变量函数 z = f (x, y),若在变量 x 增加时,输出 z 要么增加要么保持不变,则称该函数在变量 x 上是弱单调递增的;若输出 z 要么减少要么保持不变,则称其在变量 x 上是弱单调递减的。例如,z = 5x - 3y 在 x 上单调递增,在 y 上单调递减。对于布尔函数,同样适用这些定义,其中布尔值遵循 1 > 0 的约定。

在多层学习系统中,单调性非常有用。如果网络中的所有单元都计算单调递增函数,那么整个网络函数也是单调递增的。这会在单元输出和网络输出之间形成一种正相关关系,尽管这种关系可能很弱。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值