读智能新物种04自主决策

1. 分配责任

1.1. 弄清楚在出现问题时如何分配责任是一个很大的挑战，但这个问题已经存在了几千年

1.2. 虽然大多数现代法律制度倾向于将动物视为财产而不是人，但该制度通常承认这种“财产”对自主行为的偏好

1.3. 今天，随着机器人开始进入共享空间，撞倒蹒跚学步的幼儿，抵制“机器人本身应负责任”的想法尤为重要，负责任的应该是人

1.4. 尝试用动物做类比，我们会发现现在或许并不是我们想象的那样，成为了“历史性的时刻”​

1.5. 在人类悠久的历史中，为未曾预料到的动物行为分配责任的先例，至少可以启发我们更有创意地思考机器人的责任问题

2. 牛伤人事件

2.1. 公元前18世纪的《埃什努纳法典》和《汉谟拉比法典》​，是人类已知的现存最早的“法律”​

• 2.1.1. 是美索不达米亚社会制定的第一批规则，对动物造成的伤害规定了明确的后果

• 2.1.2. 都规定了对牛主人的惩罚，而且都遵循同样的原则：如果你的牛意外地杀了人，你不用负责

• 2.1.3. 如果你知道这只动物是“习惯性杀戮者”​，换句话说，这只动物存在风险性，那么你就得承担责任了

2.2. 美索不达米亚的法典和《出埃及记》都要求牛的主人承担责任，前提是牛的主人知道牛有伤人的倾向，但未采取适当的措施加以预防

2.3. 人类不需要预测或控制动物做出的每一个自主决定，所以法律只会指责那些对动物粗心大意的主人

2.4. 自主行动的责任并不一定是一个全有或全无的问题

2.5. “诺克萨尔强制上交”(noxal surrender)：交出违法的动物（或儿童、奴隶、物品）​，以补偿被伤害的人

2.6. 人们需要采取适当的措施防止牛伤人，而只有在机器人（牛）的行为不太可能造成伤害的情况下，人们才不用对伤害负责

3. 分类

3.1. 一种是人类只有在预料到伤害，并且没有采取措施防止伤害的情况下才负有责任

3.2. 一种是人类会因动物的行为而受到严格的追责

3.3. 在城市和人口稀少的地区，对在街道上游荡和在天空中漫游的机器人，所制定的规则应该有所不同

3.4. 家养动物的主人只有在动物们“被某种有悖于其本性的野性所驱使”时，才需要承担责任

3.5. 驯养的动物广义而言是指依赖人类生存的驯化的（通常是）脊椎动物，而野生生物包括所有未被驯养的动物

3.6. 蜜蜂在某种程度上可以被归入可预测的生物类型，有时它们是有主人的，但它们大多桀骜不驯，来去自由，可以随意蜇伤人和生物，有时甚至是致命的

• 3.6.1. 没有什么动物能比得上蜜蜂，它更易为律师提供使其欲罢不能却又微不足道的问题

3.7. 法院需要裁定人类是否可以拥有蜜蜂，以及裁定蜜蜂是否以及何时可以摆脱人类的所有权

• 3.7.1. 一群蜜蜂飞起来之际，如果其主人没有及时追赶或者是放弃追赶，蜜蜂就此成为无主之物

3.8. 将那些不会对人类造成很大危险的设备与风险更高的设备分开

3.9. 对机器人的伤害预防也可以遵循我们之前对动物使用过的一些方法，而不是将道德规则以编程的方式植入机器，例如，用征税或监管的方式，对所有权进行约束

4. 制定法规

4.1. 可以考虑哪些机器人法规可以减轻机器人创造者或用户无法预料的伤害

4.2. 对特定类别的机器人进行登记注册或微芯片识别

4.3. 对操控特定口径的无人机的飞行员进行强制性的培训，并将操作限制在允许的区域内

4.4. 保险不一定会重新定义谁是应该因动物的不良行为而受到指责的主体，但保险确实提供了一种机制

• 4.4.1. 对经济损失予以赔偿，尤其是保险业已经形成了处理索赔的内部规范，只需要在边缘案件中进行复杂的法律责任分析即可

4.5. 以色列人的法律体系是基于宗教信仰的，他们认为人类凌驾于动物之上

• 4.5.1. 如果动物伤害了人类，即使伤害的是像奴隶这样的低等人，也要受到惩罚

• 4.5.2. 撰写于公元前2世纪至公元2世纪的《米书拿》​，通常被称为犹太教拉比的第一份文献，记录了动物在23名法官面前接受审判的事，如果动物被判定有罪，那么它就会被判处死刑

4.6. 古希腊人还以谋杀的罪名审判动物，以死刑或流放的方式来惩罚它们

5. 谁来负责

5.1. 几十年来，科幻小说一直在提出因果关系链，以及如何为机器人所造成的伤害分配责任的问题

5.2. 在当下，机器造成的任何伤害都可以直接追溯到设计、制造或给它编程的人或公司

5.3. 在未来，机器人将有独立行事的能力，并以其创造者无法预料的方式行事

5.4. 在某些方面，处理机器人会更容易，因为它们是由人类创造出来的，并且总是在某些人的掌控之下

5.5. 用动物来做类比并非完美之举

• 5.5.1. 用动物做类比可以帮助我们从一条基准线出发，即机器人不能像人类那样做出决策，并且人类应该为机器人造成的伤害承担责任

• 5.5.2. 用动物做类比可以帮助我们假设机器人是在我们的权限范围内解决问题的，即便它会做出我们没有预料到的决策

5.6. 在潜意识中倾向于认为，公司和个人不应该为没有预测到的算法驱动的行为负责

5.7. 我们不会看到人类任务落在机器人身上的普遍情况（在这种情况下，责任大多只是从人类转移到机器人制造商身上）​

6. 机器人的责任

6.1. 理论上讲，人类与机器组成的团队配合得很好

6.2. 自动驾驶拖拉机可以耕地，只需要农民在现场处理偶发的意外状况

6.3. 车辆自动化并不只是让机器人操纵方向盘那么简单

• 6.3.1. 需要重新架构一个系统，并在最有价值的地方使用人力

6.4. 人们对错误的认知往往是大相径庭的

6.5. 将伤害归咎于责任的偏见

6.6. 使用动物类比有助于我们正确看待当前的系统，无论是技术、经济、法律还是文化，动物类比法可以让我们敞开思维的大门，看到其他的可能性，在我们继续将机器人融入人类世界之际，这一点尤为重要

7. AIBO

7.1. 金属小狗AIBO（在日语中意为“同伴”或“伴侣”​）的营销定位是“21世纪人类最好的朋友”​

7.2. AIBO于1999年推出，是当时市场上最先进的人机互动玩具之一

7.3. 这只小狗有自己的性格，会与人互动，会表现出开心，也会表现出难过的样子

7.4. A-Fun公司把AIBO的零件互换称为“器官捐赠”​，这样可以更好地表达出AIBO主人对所发生事情的感受

7.5. 2015年，兴福寺举办了第一场AIBO葬礼

• 7.5.1. 17只机器狗因“器官捐赠”而得到礼遇，伴随着祈祷和诵经，机器狗在正式的佛教仪式中辞别今世

7.6. 2018年，也就是索尼推出全新现代化版AIBO的同一年，兴福寺为第800个无法修复的机器狗举办了葬礼

7.7. 日本的本土信仰认为万物皆有灵，包括人、动物、树木、岩石、人造工艺品，甚至虚无也有灵

8. 拟人化

8.1. 善用拟人化的一个原因是它有助于我们理解周围的世界

8.2. 将动物和物体拟人化的倾向是人类的特征，这一特征根深蒂固，随着时间的推移而越发稳定，在幼儿身上就已经出现这样的迹象

8.3. 婴儿最先学会识别和关注的事物之一是脸，无论是看护者的脸，还是只是一张黑白的面部特征图

• 8.3.1. 婴儿似乎从出生伊始便能够模拟其他人的心理状态

• 8.3.2. 可能有助于我们从童年开始就将其他动物和某些物体视为社会的主体

8.4. 渴望减少不确定性，并且能够预测社会环境中可能发生的事情

8.5. 拟人化背后的另一个流行理论是，它满足了我们对社会联系的内在需求

• 8.5.1. 孤独的人似乎更倾向于将非人类拟人化，甚至与物体建立深厚的情感关系

• 8.5.2. 社会孤立也可能是引发恋物癖的诱因之一

• 8.5.3. 恋物癖是一种对物体满怀浪漫想象或性欲的癖好

• 8.5.4. 拟人化不仅仅依存于孤独和生存

8.6. 电子宠物Tamagotchi是20世纪90年代非常流行的儿童游戏机，这是一种虚拟宠物，孩子们可以把它挂在钥匙链上随身携带

8.7. “人机交互”​，又称HCI

8.8. 随着目前与人类互动的实体机器人的兴起，人机交互的发现促成了一个新的研究领域：人与机器人的互动，又称HRI

• 8.8.1. 人们不喜欢不友善的机器人，更愿意与表现好的机器人合作，在别人对机器人残忍的时候会为它们感到难过

9. 移动着的机器人

9.1. “动态图片”的新媒体形式既为人们提供了身临其境的体验，又引人入胜，将继续存在下去

9.2. 自主运动激活了我们的“生命探测器"

9.3. 区分动物和物体的能力更有可能受我们祖先深层的优先考虑因素，而不是我们自身的生活经历所驱动

9.4. 当运动有一个主体并且它与我们共处一室时，发现和解读自主智能运动生命的“生物硬件”的反应甚至会更强烈

9.5. 人们对实体机器人说得更多，笑得更多，而且更愿意再次与它们互动

• 9.5.1. 与计算机相比，人们更愿意服从实体机器人的命令

• 9.5.2. 当人们独自待在房间里时，会抓住机会在游戏中作弊

• 9.5.3. 当机器人和他们同处一室时，人们作弊的次数便会减少

9.6. 机器人不需要看起来像人类，这种情况也会发生

9.7. 机器人正以多种形式进入人们的生活，即使是最简单的或机械式的机器人，也能引起人们的本能反应

• 9.7.1. 机器人的设计也不太可能避免引起这些生物反应，尤其是因为有些机器人的设计就是有意模仿逼真的运动