23、注意力、意识与人工智能中的智能行动

最新推荐文章于 2025-11-25 12:11:01 发布

pytorchlight8

最新推荐文章于 2025-11-25 12:11:01 发布

阅读量24

点赞数

CC 4.0 BY-SA版权

分类专栏：意识机器：AI觉醒之路文章标签：注意力意识人工智能

本文链接：https://blog.youkuaiyun.com/pytorchlight8/article/details/152147934

意识机器：AI觉醒之路专栏收录该内容

30 篇文章 ¥499.90

订阅专栏¥69.90

会员秒杀 ¥9.9 重磅福利

超级会员免费看

注意力、意识与人工智能中的智能行动

1. 注意力与意识在有意行动中的应用

在有意行动的研究中，当前基于规则或图形模型的方法与人类推理及认知架构的文献相脱节，难以找到与注意力、记忆和其他支持性认知过程的交叉点。要将人工智能的推理方法与现有心理学解释的经验约束相结合，还需要开展大量工作以取得初步成果。

在不久的将来，ARCADIA系统将融入关于控制预期价值（EVC）的新心理学研究理念。在EVC框架下，控制配置是根据其预期价值来选择的。这种计算会考虑成本信息，包括因选择特定控制配置而失去的其他机会成本。当价值被定义为对实现整体任务目标的相对贡献时，EVC为受控行为提供了理性分析。

目前，EVC主要应用于心理实验室任务，在这些任务中，控制、成本和价值的概念往往易于形式化。然而，在现实世界的决策问题中，成本和价值能否简单表示仍有待观察。

对于ARCADIA系统而言，控制配置将涵盖以下几个方面：
- 通过加强任务集的维持来实现注意力的转移。
- 长时间专注于特定焦点元素，以通过广播过程最大化与组件的交互。
- 脱离影响性能的焦点元素。
- 重新排列注意力优先级。

控制失败（如琼斯的情况）可以通过EVC过程中对成本和价值的瞬间高估或低估来解释，而成功则可以通过正确的估计来解释。尽管现有的EVC研究暗示成本和价值是可以学习的，且不一定用于外部推理或决策，但这可能只是反映了其应用任务的某些方面，而非使用的硬性约束。我们推测，在ARCADIA中实例化的EVC框架可以扩展并应用于更复杂的行为。

下面是一个简单的mermaid流程图，展示ARCADIA系统控制配置的流程：

graph LR
    A[开始] --> B[加强任务集维持]
    B --> C[专注特定焦点元素]
    C --> D[脱离影响性能元素]
    D --> E[重新排列注意力优先级]
    E --> F[结束]

2. 意识功能的探讨

这些假设数量众多，反映了关于意识本质的理论多样性。不过，这些假设通常并非相互排斥或独立的，意识可能具有多种功能。目前，对于能提供适应性优势的意识功能，尚无明确共识，上述部分潜在功能还因与经验数据或理论考虑不一致而受到批评。

3. 记忆、学习与意识的关联

当代人工智能认为，智能体可由多个功能组件组成，其中一些处理信息（如反射性条件 - 行动规则、符号推理、执行决策、采取行动等），另一些则处理信息的记忆和学习。

从人工智能的角度来看，之前提出的意识功能大多与信息处理有关，而我们提出了一个不同的观点，即人类意识的适应性功能可能在于其对记忆和学习的贡献，而非后续的信息处理。具体而言，我们假设意识的基本功能及其对智能的贡献最有可能体现在支持短期工作记忆及其相关的学习和控制机制上。

心理学家在解释各种神经科学和行为数据时，区分了不同的记忆系统。人类记忆通常分为长期记忆和短期记忆，长期记忆又可细分为语义、情景和程序记忆等类型，而我们这里主要关注短期记忆中的工作记忆。工作记忆存储最近经历的信息，通常持续数秒到数分钟，用于解决问题或其他认知活动。与具有巨大存储容量的长期记忆不同，短期工作记忆容量非常有限，任何时候只能保留几个独立的项目。

选择工作记忆作为意识功能的研究重点，原因在于工作记忆在哲学和心理学中被广泛认为涉及有意识的、可报告的认知活动。我们认为，心理学家所说的“工作记忆”与一些哲学家所描述的有意识思维状态大致相同。信息要能被有意识地访问和报告，基本上需要在工作记忆中得到积极表征。

以下是人类记忆系统的简单分类列表：
- 长期记忆
- 语义记忆
- 情景记忆
- 程序记忆
- 短期记忆
- 工作记忆
- 其他类型（如短期视觉图标记忆，本文暂不考虑）

4. 人工智能与人工意识的发展现状

人工智能（AI）和人工意识（AC）这两个领域在很大程度上是分开发展的，它们有着不同的目标和成功标准，思想交流也非常有限。

在人工智能的发展历程中，艾伦·图灵提出的图灵测试为评估机器智能提供了一个标准，即根据机器的行为而非模糊定义的概念（如潜在思维的存在）来评估。尽管图灵测试受到了批评，但他的基本观点至今仍是人工智能的主导范式，使人工智能研究变得受人尊重。然而，这种观点也导致人工智能领域很少关注人工思维或有意识机器的挑战性问题，许多人工智能研究者认为这些问题无趣或定义不明确。因此，人工意识领域在很大程度上独立于主流人工智能发展。

我们认为这是令人遗憾的，因为这两个领域有很大的协同工作空间。此前，我们探讨了人工智能研究如何促进人工意识的发展，指出当前存在一个计算解释差距，即我们缺乏对有意识访问的高级认知信息处理如何映射到低级神经计算的理解。这个差距是一个纯粹的计算问题，与心脑问题无关，它涉及到如何将认知算法（如执行控制、目标导向的问题解决、规划等）映射到使用分布式信息表示的神经网络所支持的子符号计算中。

目前，越来越多的研究开始关注这个问题，例如对“可编程神经网络”的研究。计算解释差距也使得人工智能中以认知为导向的模型与人工意识的相关性比通常认为的更高，尤其是考虑到认知现象学的哲学概念。

下面是人工智能和人工意识发展关系的mermaid流程图：

graph LR
    A[人工智能] --> B[图灵测试主导范式]
    B --> C[较少关注人工意识问题]
    D[人工意识] --> E[独立于主流AI发展]
    F[计算解释差距] --> G[限制AC发展]
    G --> H[需关注可编程神经网络等研究]
    I[认知导向模型] --> J[与AC相关性高]

5. 人工意识对人工智能的潜在贡献

我们现在探讨人工意识研究中发展的概念如何为未来更有效的人工智能系统做出贡献。如前文所述，我们先总结了过去关于人类意识功能的一些观点，然后提出了自己的假设，即工作记忆和其内容的快速学习/遗忘应该是核心关注点。

我们认为，将人工意识的概念融入人工智能系统，开发人工意识智能（ACI），既能产生更有效的人工智能技术，又能有助于更深入地科学理解意识和智能的本质。例如，通过借鉴意识在人类工作记忆和学习中的功能，人工智能系统可能能够更好地处理实时信息、快速适应新环境和学习新知识。

在未来的研究中，我们需要进一步探索如何在人工智能系统中实现这些概念，解决计算解释差距带来的挑战，以及评估人工意识智能在不同应用场景中的效果。

总之，虽然目前人工智能和人工意识领域各自发展，但它们之间的交叉研究具有巨大的潜力，有望推动人工智能技术的发展和对意识本质的理解。

注意力、意识与人工智能中的智能行动

6. 探索意识功能假设的计算研究

为了验证我们提出的意识功能假设，即短期工作记忆和快速学习/遗忘是意识的核心关注点，我们开展了一系列计算研究。

我们的研究旨在识别与意识相关的计算机制，也就是计算意识相关物。计算意识相关物是一种最小的计算机制，它专门与认知的有意识方面相关，而与无意识方面无关。

在研究过程中，我们构建了工作记忆模型，模拟其在处理信息时的表现。通过对这些模型的实验，我们发现工作记忆的容量限制以及信息的快速更新特性与意识的某些特征相契合。例如，当工作记忆中的信息达到容量上限时，新信息的进入会导致旧信息的快速遗忘，这与意识在处理大量信息时的选择性和动态性相呼应。

以下是我们研究中涉及的部分计算机制的列表：
- 信息存储机制：负责在工作记忆中存储最近经历的信息。
- 信息更新机制：当新信息进入时，更新工作记忆中的内容。
- 遗忘机制：在信息达到容量上限或不再相关时，遗忘旧信息。

下面是一个简单的mermaid流程图，展示工作记忆模型的基本工作流程：

graph LR
    A[接收新信息] --> B{是否有空间?}
    B -- 是 --> C[存储信息]
    B -- 否 --> D[遗忘旧信息]
    D --> C
    C --> E[处理信息]
    E --> F[输出结果]

7. 人工意识智能的发展思路

基于前面的研究和分析，我们提出将人工意识的概念融入人工智能系统，以开发人工意识智能（ACI）。具体思路如下：

首先，我们需要在人工智能系统中构建类似于人类工作记忆的模块。这个模块要具备有限的容量和快速学习/遗忘的能力，能够实时处理和响应新信息。

其次，我们要设计相应的学习算法，使系统能够根据工作记忆中的信息进行快速学习和适应。这些算法应该能够模拟人类意识在学习过程中的选择性和灵活性，优先处理与当前任务相关的信息。

最后，我们要将工作记忆模块和学习算法与人工智能系统的其他组件（如决策模块、行动模块等）进行集成，使整个系统能够像人类一样，在意识的支持下进行智能行动。

以下是开发人工意识智能的步骤表格：
| 步骤 | 描述 |
| — | — |
| 1 | 构建工作记忆模块，模拟人类工作记忆的容量和特性。 |
| 2 | 设计学习算法，实现快速学习和适应功能。 |
| 3 | 将工作记忆模块和学习算法与其他组件集成。 |
| 4 | 对集成后的系统进行测试和优化。 |