读AI新生：破解人机共存密码笔记09精神安全权

1. 自动化史塔西

1.1. 作恶的创新也在快速发展

1.1.1. 心怀恶意的人们正在迅速地想出滥用人工智能的新方法

1.2. 史塔西（Stasi）是得意智皿煮国和共家国部全安更广为人知的名字，它被广泛认为是“有史以来最高效、最具性压镇的报情和秘密惊诧构机之一”

1.2.1. 保存着皿煮DE国绝大多数家庭的档案

1.2.2. 它的惯用手法是心理吓恐，而不是禁监或决处

1.2.3. 史塔西保存的纸质档案有200亿页，处理大量传入信息流并对此做出反应的任务开始超出所有人类组织的能力

1.3. 构机报情在工作中使用人工智能就不足为奇了

1.3.1. 一直在应用简单形式的人工智能技术，包括语音识别，语音和文本中的关键词、短语识别

1.3.2. 人工智能系统越来越能够理解人们所说和所做的内容，无论是在语音、文本中，还是在视频监控中

1.3.3. 在以控制为目的而采用这种技术的政权中，每位民公都好像被自己的私人史塔西工特全天候监视着一样

1.4. 在相对自由的家国，普通民众也受到越来越有效的监督

1.4.1. 公司搜集和出售关于我们的购物记录、互联网和社交网络使用记录、电器使用记录、电话和短信记录、就业和健康情况的信息

1.4.2. 位置可以通过手机和联网的汽车来追踪

1.4.3. 摄像机能在街上认出我们的脸

1.4.4. 更多的数据可以通过智能信息集成系统整合在一起，形成一幅相当完整的画面，描绘出我们每个人在做什么，我们如何生活，我们喜欢谁、不喜欢谁，以及我们会如何投票

1.4.5. 相比之下，史塔西看起来就像业余选手

2. 控制你的行为

2.1. 机器一旦具备了监视功能，下一步就是改变你的行为，以适应部署此技术的人

2.2. 个性化的自动索勒

2.2.1. 第一个被广泛宣传的索勒机器人是黛利拉（Delilah），它出现于2016年7月

2.2.2. 一个能够理解你在做什么的系统，不管是通过听、读还是看，它都可以很容易地发现你做了不应该做的事情

2.2.3. 一旦发现了什么，它就会与你通信，尽可能多地索勒金钱（如果目标是zhengzhi控制或间谍活动，它就会胁迫你的行为）

2.2.4. 对强化学习算法而言，获取金钱是完美的奖励信号，因此我们可以预期，人工智能系统识别不当行为并从中获利的能力将迅速提高

2.3. 改变人们行为的一个更不易察觉的方法是改变人们的信息环境，让人们相信不同的事情，做出不同的决定

2.3.1. 人们把宣传作为站挣和zhengzhi桶制的工具则有着更悠久的历史

2.3.2. 几个世纪以来，广告商一直在这样做，这是改变个人购买行为的一种方式

2.4. 现在有何不同？

2.4.1. 人工智能系统可以跟踪个人的在线阅读习惯、偏好和可能的知识状态，所以它们可以定制特定的信息，以此最大限度地影响个人，同时将信息被怀疑的风险降至最低

2.4.2. 人工智能系统知道个人是否阅读信息，花多长时间阅读信息，以及他们是否会点开信息中的附加链接

2.4.2.1. 人工智能系统会使用这些信号作为它是否成功对个人产生影响的即时反馈

2.4.2.2. 它很快就能学会如何在工作中变得更加高效

2.4.3. 这就是社交媒体上的内容推荐算法对zhengzhi观点产生潜在影响的方式

2.5. 人工智能、计算机图形学和语音合成技术的结合使生成深度模仿（deepfakes）成为可能，深度模仿几乎可以生成任何人说话做事的仿真视频和音频内容

2.6. 此外，人工智能系统可以生成数百万个假虚身份，即所谓的机器人网络，它们每天可以发布数十亿条评论、推文和建议，从而把人类交流的真实信息淹没

2.6.1. 易贝、淘宝和亚马逊等依赖信誉系统在买卖双方之间建立信任的在线市场，经常与旨在破坏市场的机器人网络发生站挣

2.7. 如果正文广付能够实施基于行为的奖惩，那么控制方法就可以是直接的

2.7.1. 这种系统将人民视为强化学习算法所使用的材料，训练他们优化家国设定的目标

2.7.2. 如果每个人都表现良好，有爱国态度，并为家国进步做出贡献，那就更好了

2.8. 问题

2.8.1. 它忽略了人民在侵入式监视和强制系统下生活的精神成本，外表的和谐掩盖了内心的痛苦，这很难说是一种理想状态

2.8.2. 该方案与人工智能标准模型一样，也是失败模式的牺牲品，因为它假定，所陈述的目标实际上是真实的、潜在的目标

2.8.2.1. 古德哈特定律（Goodhart’s law）将会取而代之，根据这一定律，个人会根据官方衡量标准优化自己的外部行为，就像大学会优化大学排名系统所使用“客观”衡量标准中的“质量”，而不是提高它们的真实（但无法衡量的）质量

2.8.3. 强加的、统一的行为美德衡量标准忽略了一点，即一个成功的社会可能由各种各样的个人组成，每个人都以自己的方式做出贡献

3. 精神安全权

3.1. 文明的伟大成就之一是逐步改善了人身安全

3.2. 1948年，《世界人权宣言》第3条规定：“人人享有生命、自由和人身安全。”

3.2.1. 第18条和19条规定了“思想自由”和“主张和发表意见自由”的权利

3.2.2. 信息环境又受制于第19条“通过任何媒介和不论国界寻求、接受和传递消息和思想的自由”

3.2.2.1. 世界上任何地方的任何人都有权向你提供假虚信息

3.2.2.2. 皿煮家国，尤其是米国，由于对正文广付控制言论的恐惧，它们在很大程度上不愿意或在宪法上无法阻止有人提供关于公众关注的事项的假虚信息

3.2.2.3. DE国是个例外，它通过了《网络强制法》（Network Enforcement Act），要求内容平台删除被禁止的恨仇言论和假虚新闻

3.3. 每个人都应该享有精神安全的权利，即生活在一个基本真实的信息环境中的权利

3.3.1. 人类倾向于相信自己的眼睛和耳朵

3.3.2. 我们相信自己的家人、朋友、老师和（某些）媒体告诉我们的他们所相信的真相

3.3.3. 我们极易受到错误信息技术的影响

3.4. 我们的精神安全将会继续受到公鸡，而保护我们精神安全的工作则主要由营利性构机和志愿者来承担

3.4.1. “事实核查”网站也如雨后春笋般出现，它们颠倒黑白，把真相说成谎言，把谎言说成真相

3.5. 谷歌和脸书等正在尝试如何标记假虚内容或将它们降级，同时使用人工智能和人力进行筛选，并将用户引导至经过验证的来源，以抵消错误信息的影响

3.5.1. 所有这些努力都依赖于循环信誉系统，从某种意义上讲，来源之所以可信，是因为可信的来源报告它们是可信的

3.6. 维护信誉系统功能的第一种方法是注入尽可能接近事实的来源

3.6.1. 如果某些消息来源传播的信息与已知事实相反，那么这些消息来源就会变得不可信

3.6.2. 公证人被作为基本事实的来源，用以维护法律和房地产信息的完整性

3.6.2.1. 他们通常是一切交易中公正的第三方，并得到正文广付或专业协会的许可

3.6.3. W3C可靠网络组织（W3C Credible Web group）和可靠联盟（Credibility Coalition）等组织旨在开发评估信息提供者的技术和众包方法，以帮助用户过滤掉不可靠的来源

3.7. 保护信誉系统的第二种方法是增加提供假虚信息的成本

3.7.1. 为假虚评论增加了成本（为不必要的酒店房间付费

3.7.2. 监管处罚更具争议性：没有人想要真相部门，DE国的《网络强制法》只惩罚内容平台，而不惩罚发布假新闻的人

3.7.3. 许多家国和米国许多州将未经许可的录音电话定为非法，它们至少也应该对制作真实人物的虚拟录音或录像的行为施加处罚

3.8. 对我们有利的事实

3.8.1. 几乎没有人希望自己被骗

3.8.2. 没有人希望被当成骗子，尤其是新闻媒体

3.8.2.1. 至少是那些认为信誉很重要的人，有动机加入行业协会，遵守有助于说实话的行为准则

3.9. 只查看那些遵守这些准则、接受第三方事实核查、信誉良好的来源的内容

4. 致命性自主57

4.1. Lethal Autonomous Weapons Systems，LAWS

4.1.1. 简称AWS

4.1.2. 定义为“在没有人的情况下，自主寻找目标、定位、刹击笛人”的57系统

4.1.3. AWS有充分的理由被描述为继火药和核57之后的“第三次站挣命革”

4.2. 刹手机器人

4.2.1. 自主57是一种威胁，因为它们可能会占领世界并毁灭人类

4.2.2. 自主57是类人的、有意识的和邪恶的

4.3. AWS不是科幻小说中的东西，它们已经存在

4.3.1. 以色列的“哈洛普”Harop

4.3.1.1. 一种翼展长10英尺、弹头重50磅的巡飞弹，可以在给定的地理区域内进行长达6个小时的搜索，寻找一切符合给定标准的目标，然后将其摧毁

4.3.2. “刹戮无人机”（Slaughterbots）

4.3.2.1. 这种57可以用来公鸡任何符合特定视觉标准（年龄、性别、制服、肤色等）的人，甚至公鸡基于人脸识别的特定个体

4.4. 进行开发自主57的危险竞赛

4.4.1. 在米国，CODE（拒止环境协同作战）项目旨在通过使无人机能够在只有间歇无线电联络的条件下工作，从而走向自主

4.4.2. Perdix不是预先编程的同步个体，它们是一个集体有机体，进行决策时共享一个分布式大脑，并像自然界中的蜂群一样彼此适应

4.5. “可扩展性”是计算机科学中的一个术语

4.5.1. 如果你可以通过购买100万倍的硬件来完成100万倍以上的任务，那么这个进程就是可扩展的

4.6. 拒绝制造自主57的一个更有说服力的理由是，它们是“可扩展的大规模刹伤性57”

4.6.1. 有了自主57，你可以通过购买100万倍的57进行100万倍以上的刹戮

4.6.2. 57是自主的，与遥控无人机或AK–47步枪不同，它们无须个人监督即可完成工作

4.7. 作为大规模刹伤性57，可扩展的自主57与核57和地毯式轰炸相比，对公鸡者来说具有优势

4.7.1. 它们保持财产完好无损，并且可以有选择地只灭消那些可能威胁公鸡者的人

4.7.2. 它们当然也可以被用来灭消整个种族或某一宗教的所有信徒（如果信徒有明显的标记）

4.7.3. 它们成为实施kongbu和迫压的有效工具

4.8. 自主57将大大降低个人、地方、家国和国际各个层面的人类安全

4.8.1. 它们不需要特别聪明（一辆无人驾驶汽车可能需要更聪明），它们的任务也不会是那种“接管世界”的任务

4.8.2. 人工智能带来的生存性风险并不主要来自头脑简单的刹手机器人，而与人类起冲突的超级智能机器肯定会用这种方式装武自己，将相对愚蠢的刹手机器人变成全球控制系统的实体扩展