16、人工智能价值对齐的具身认知方法探索

人工智能价值对齐的具身认知方法探索

1. 现有价值对齐方法中“解决问题”式智能概念的作用

在探讨人工智能价值对齐问题时，有必要先了解现有方法中对智能的理解。现有价值对齐方法往往将智能视为一种广义的“解决问题”能力。例如，Russell指出“合理定义智能是创造智能机器的首要要素”，这里所指的智能，实际上就是一种能广泛解决各类问题的能力，也就是我们常说的“通用人工智能（AGI）”或“比人类更聪明的AI”所具备的能力。

这种“解决问题”式的智能概念主要有以下特点：
- 聚焦解决问题 ：强调智能体解决各种问题的能力。
- 能力的泛化与量化 ：对这种解决问题的能力进行广泛或跨领域的量化。
- 假定问题与主体的同一性 ：这是一个关键特点，即默认问题的定义和主体的身份是已知的，而定义问题本身并未被纳入智能的概念范畴。

一些学者对智能的定义也体现了这种“解决问题”的观念：
- Legg和Hutter综合70多种智能定义后指出，“智能衡量的是智能体在广泛环境中实现目标的能力”，实现目标与解决问题本质上是一回事。
- Bostrom在其研究中也表达了类似观点，他认为“智能大致对应工具性推理的能力”，智能体能够为实现任何目标进行工具性的最优规划和策略搜索。在他对智能的定义中，问题的定义并非“最相关”的因素，而是假定问题已经明确，智能则是为实现该目标进行的工具性优化。
- Russell在研究人工智能中智能概念的演变时，通过回顾计算机和人工智能的发展范式，指出在当前“现代AI”范式中，AI被视为“理性主体”。他从亚里士多德的理性概念