30、人工智能与人类协作：潜力与挑战

人工智能与人类协作：潜力与挑战

1. AI能否成为合法参与者

传统观念里，人们可能认为AI只是一种可购买的工具。但如今，平台通过互联网将AI作为服务提供，这种服务看似是平台与受益方之间的交换。深入观察平台内部，会发现服务更像是AI与受益方直接进行的交换。例如，Uber提供的应用程序用于匹配司机和乘客，司机由算法管理而非人工经理。在不久的将来，自主AI将能够主动发起服务交换，像由Uber算法管理的自动驾驶汽车普及后，它们能帮助人们从当前位置前往所需位置，此时就可以说它们是为人类利益提供能力的参与者。

以下是AI成为合法参与者的判断流程：

graph LR
    A[是否以服务形式提供] -->|是| B[服务是否类似直接交换]
    B -->|是| C[是否能主动发起服务交换]
    C -->|是| D[AI可成为合法参与者]
    A -->|否| E[AI为传统工具]
    B -->|否| E
    C -->|否| E

2. 人类能否像与人类协作一样舒适地与AI协作

人类通过协作能产生创新成果，一个可能的原因是共享意向性。共享意向性将人类与其他生物（如黑猩猩）区分开来，即使是1 - 2岁的人类儿童，其行为也与黑猩猩不同，他们表现出“共同关注而非单纯注意、合作交流而非社交操纵、协作而非群体活动、有指导的学习而非社会学习”。目前来看，AI不太可能具有共享意向性，它无法与人类进行共同关注、合作交流和协作，也不能从人类那里进行有指导的学习。不过，我们推测心理安全可以替代AI与人类之间的共享意向性。谷歌的“亚