21、有意行动中的注意力与意识：迈向丰富的人工能动性

有意行动中的注意力与意识：迈向丰富的人工能动性

1. 引言

在人工智能领域，“智能体”是一个核心概念。不同的定义强调了智能体的不同特征，如感知环境、基于经验和知识行动、学习与灵活适应，以及对信念、欲望和意图进行推理的能力。然而，现有的简单定义存在缺陷，可能导致智能体在追求目标时造成意外伤害，且一些机器学习系统虽表现出色，但缺乏可解释性。

目前，可识别出至少三类智能体，但当代人工智能和计算认知科学仅涉及其中两类。第一类以强化学习智能体为代表，它们根据已知世界特征优化行动选择，在已知环境中表现良好，但在处理复杂情况和推理方面存在局限。第二类智能体在选择行动时会考虑过去、未来和反事实状态，通过明确的偏好或生成机制解决冲突，但这两类智能体都缺乏真正的智能能动性。

本文认为，有意行动需要意图通过注意力对行动进行控制，而智能体通过实践推理来维持意图。这种意图与注意力的结合对于连接意图和有意行动至关重要，也为智能体承担责任提供了可能。理解有意行动很重要，因为许多社会认知实践依赖于确定行动的有意状态。同时，这也引发了关于意识在智能体中的作用的问题。

2. 智能体与有意行动

为了区分不同形式的行为与智能体的关系，我们来看两个场景。

2.1 肯尼斯·帕克斯案

一天晚上，梦游的肯尼斯·帕克斯从沙发上起身，开车14英里到岳父岳母家，袭击了他们，岳母不幸身亡。帕克斯对事件的记忆支离破碎，最终因“非精神错乱的自动行为”（即梦游）被加拿大最高法院宣判无罪。这一案例表明，在缺乏或几乎缺乏意识的情况下，复杂行为仍可能发生。

从这个案例可以看出三个显著特征：
- 有意识介导的行为与脚本式自动行为之间的脱节。
- 有意识的信息能广泛调用背景知识和记忆进行深思熟虑。
- 注意力有助于行使控制。

这些特征与全球工作空间理论（GWT）相契合。GWT认为，大脑由许多分布式模块组成，这些模块塑造短期存储的内容，用于推理、决策等高级认知活动。如果帕克斯当时有意识，他的意识内容会与他的倾向和其他记忆整合，可能避免悲剧发生。

2.2 因果偏差案例

琼斯因侄子史密斯对女友玛丽的看法而生气，决定将遗产留给玛丽。史密斯得知被从遗嘱中剔除后，愤怒地开车去叔叔家打算杀他。途中，他陷入愤怒幻想，结果不小心撞倒行人，发现竟是叔叔琼斯。

这个故事揭示了意识与智能体关系的另一个方面。哲学中关于智能体的标准观点是因果行动理论，认为行动是由智能体的心理状态引起的事件。但像史密斯和琼斯的案例表明，意图并不直接导致行动，因果理论未能充分解释智能体的控制作用。吴（2016）认为，忽视注意力在有意行动中的作用，因果理论无法提供充分的智能体控制概念。他和其他人支持“行动选择”的注意力理论，即如果主体选择某个事物来指导任务执行，那么主体就关注了该事物，注意力在任务意图和产生符合意图的结果之间起到中介作用。

2.3 总结

这两个场景表明，智能体的概念较为复杂，不能简单归结为知识表示的差异。如果目标是实现类人智能体，那么在架构和处理方式上，关键概念（如意向）的处理方式需要有所不同。肯尼斯·帕克斯案显示了无意识情况下复杂行为的可能性，而因果偏差案例则强调了注意力优先级在意图表示和行为指导中的重要性。ARCADIA认知系统以分布式架构、同步性和注意力优先级为核心，为开发类人智能体的计算研究提供了有前景的框架。

3. ARCADIA认知系统

ARCADIA认知系统的设计考虑了注意力在协调感知、认知和行动方面的首要地位，以支持引言中所讨论的人工智能体的发展。它最初是一个注意力模型，已被用于研究和模拟人类在多种任务中的行为，如注意盲视和变化盲视等。

3.1 表示：组件与中间语言

ARCADIA是一种架构模式，是开发智能系统的框架。基于该模式开发的系统包括一组进行信息处理的组件、指导组件计算的注意力焦点，以及选择注意力焦点的例程。每个组件都能读写一种称为中间语言的通用数据格式，例如：

{:name "visual-object"
:arguments {:color "Red" :shape "Rectangle"
:image matrix-image<34x56>}
:world "working-memory"
:source working-memory
:type "instance"}

中间语言元素具有名称、参数、世界、来源和类型等属性。ARCADIA是一个表示异构的系统，组件的内部处理可以通过任何能从组件输入计算出所需输出的方式实现，可能包括符号、神经和概率数据结构及算法。

以下是ARCADIA系统的关键元素总结表格：
| 元素 | 描述 |
| — | — |
| 组件 | 进行信息处理 |
| 注意力焦点 | 指导组件计算 |
| 选择例程 | 选择注意力焦点 |
| 中间语言 | 通用数据格式，组件读写的基础 |

下面是一个简单的mermaid流程图，展示ARCADIA系统的基本工作流程：

graph LR
    A[环境感知] --> B[组件处理]
    B --> C[注意力焦点选择]
    C --> D[行动输出]
    D --> A

在这个流程图中，系统首先感知环境信息，然后组件对信息进行处理，接着选择注意力焦点，最后输出行动，行动结果又反馈到环境感知环节，形成一个循环。

有意行动中的注意力与意识：迈向丰富的人工能动性

3.2 注意力选择机制

ARCADIA的注意力选择机制是其核心功能之一，它负责动态地确定在特定时刻应该关注的内容。该机制结合了自顶向下和自底向上的注意力引导方式。

自顶向下的引导基于系统的目标和任务需求。例如，当系统被赋予识别特定颜色物体的任务时，它会优先关注与该颜色相关的信息。这种引导方式使得系统能够有针对性地处理与当前目标相关的信息，提高处理效率。

自底向上的引导则基于环境中的显著特征。例如，突然出现的明亮物体或快速移动的目标会自动吸引系统的注意力。这种方式确保系统能够及时响应环境中的重要变化。

以下是ARCADIA注意力选择机制的步骤列表：
1. 评估环境中的所有可用信息，包括视觉、听觉等各种感知信息。
2. 根据自顶向下的任务目标，为与目标相关的信息分配较高的注意力权重。
3. 识别环境中具有显著特征的信息，如高对比度、快速变化等，并为其分配相应的注意力权重。
4. 综合自顶向下和自底向上的权重，确定最终的注意力焦点。
5. 将注意力焦点信息传递给相关组件进行处理。

通过这种综合的注意力选择机制，ARCADIA能够在复杂的环境中灵活地调整注意力，有效地处理信息。

3.3 应用案例：模拟史密斯与琼斯事件

为了验证ARCADIA在处理有意行动和意识相关问题上的能力，我们使用它来模拟史密斯与琼斯事件。

首先，我们对事件进行建模，将史密斯的心理状态、意图以及环境信息等转化为ARCADIA可以处理的中间语言格式。例如，史密斯的愤怒情绪可以表示为：

{:name "emotion"
:arguments {:type "anger" :intensity "high"}
:world "psychological-state"
:source "mental-process"
:type "instance"}

然后，我们设置系统的初始条件，包括史密斯的初始意图（开车去叔叔家杀人）和环境信息（道路、车辆等）。在模拟过程中，ARCADIA的注意力选择机制会根据史密斯的心理状态和环境变化动态调整注意力焦点。

当史密斯陷入愤怒幻想时，系统的注意力可能会更多地集中在他的愤怒情绪和杀人意图上，导致对环境中的行人等信息关注不足。最终，模拟结果显示，史密斯在注意力分散的情况下意外撞倒了叔叔琼斯，与实际事件的发展相符。

以下是模拟过程的步骤表格：
| 步骤 | 操作 |
| — | — |
| 1 | 对事件进行建模，将相关信息转化为中间语言格式 |
| 2 | 设置系统初始条件，包括意图和环境信息 |
| 3 | 启动模拟，让ARCADIA根据注意力选择机制处理信息 |
| 4 | 观察模拟结果，分析系统在处理有意行动和注意力方面的表现 |

下面是模拟过程的mermaid流程图：

graph LR
    A[事件建模] --> B[设置初始条件]
    B --> C[启动模拟]
    C --> D[注意力选择]
    D --> E[信息处理]
    E --> F[行动输出]
    F --> G[结果评估]

4. 结论与展望

通过对肯尼斯·帕克斯案和史密斯与琼斯事件的分析，我们深入探讨了有意行动、意识和智能体之间的关系。这些案例表明，意识和注意力在智能体的有意行动中起着至关重要的作用。

ARCADIA认知系统作为一个以注意力为中心的架构，在处理这些问题上具有很大的潜力。它的分布式架构、同步性和注意力选择机制使得它能够更好地模拟人类的认知过程，为开发具有类人智能的人工能动体提供了一个有前景的框架。

然而，ARCADIA系统仍有一些需要改进的地方。例如，在处理复杂的情感和社会认知方面，它的能力还相对有限。未来的研究可以进一步完善ARCADIA的模型，使其能够更好地模拟人类的情感、道德判断等高级认知功能。此外，还可以探索如何将ARCADIA与其他技术相结合，如深度学习、强化学习等，以提高系统的性能和适应性。

总之，对有意行动中的注意力与意识的研究是一个充满挑战和机遇的领域。通过不断地探索和改进，我们有望开发出更加智能、灵活和具有责任感的人工能动体。