18、自动化城市的未来：社会、技术与伦理视角

自动化城市的未来：社会、技术与伦理视角

1. 合作型机器与物联网

1.1 合作型机器的理念

让机器具备合作性是一个重要的方向。若机器普遍遵循合作原则，许多合作场景就可能实现，从而带来对各方（或每台机器）都更有利的结果。从设计上看，机器应尽可能优先尝试合作，尤其是当合作对集体而言是最佳选择时。具有这种合作规则的机器，可被视为具有一定伦理行为的表现，而且合作型机器有助于最大化社会福利和自身效用。相较于非合作且自私行事的机器，人们往往更青睐合作型的自主实体。

不过，这一理念也存在问题。比如在非合作情境中，一方试图合作而其他方不合作，这对尝试合作的一方可能造成严重损害。假设成本为 (c)，当 (c) 很高时，盲目倾向于合作可能很危险。设 (q) 为 (Q) 合作（贡献）的概率，(P) 合作的概率为 1，那么 (P) 的期望收益为：
(V_P(1, q) = q(2b - c) + (1 - q)(-c) = 2bq - c)
要使 (V_P > 0)，则 (q > \frac{c}{2b})；当 (b = c) 时，(q > \frac{1}{2})；若 (b >> c)，则 (q) 不需要太大，即倾向合作的好处大于风险。若 (P) 和 (Q) 都倾向合作，就能实现康德均衡，双方都能获得 (2b - c) 的收益，即 (V_Q(1, 1) = V_P(1, 1) = 2b - c)。虽然机器应尽可能以康德式的方式思考并合作，但也需考虑风险，且风险考量因应用而异。

1.2 合作型物联网

如今的物联网是将人、地点和事物以不同方式连接到互联网的产物。这些事物嵌入了网络功能，不仅能相互通信，还能合作