读所罗门的密码笔记02_三个C

1. 认知

1.1. cognition

1.2. 思考人工智能系统如何了解我们的过去、现在和未来

1.3. 认知，是要提取大脑的各个功能，包括感知（例如对象识别和语音识别）、模式识别、意义建构、推理、解决问题、任务规划和学习

2. 意识

2.1. consciousness

2.2. 思考人工智能如何看待我们未来几年的生活、社会和经济发展

2.3. 如果机器只有认知，而没有意识，不具备对自己所见和所推荐内容的思考能力，那么这将会产生严重的风险

2.3.1. 如果机器不能对自己的行为和存在方式进行反思，它就不能评估自己的角色及其对人类环境带来的影响

2.4. 人工智能科学家们正在朝着唤醒机器意识的终点冲刺

2.4.1. 他们究竟是刚刚离开起跑线，还是已经进入了冲刺阶段，取决于你问的是哪位专家

2.4.2. 不论是哪一种情况，我们都必须在机器意识觉醒之前为它们灌输良知

3. 良知

3.1. conscience

3.2. 制定章程，指导人工智能朝着有利于人类未来的方向发展

3.3. 如果有思考的能力，却没有与之相称的道德评价能力，那么它将会带来更大的危险

3.3.1. 从人类心理学的角度来说，我们会称这样的角色为“反社会分子”，或是“没有良知的人”

4. 透明度

4.1. 对于人工智能进程在“三个C”方面的任何深入思考，最终都绕不开透明度和独立评估机会的问题

4.2. 如果对人工智能的发展、算法和数据集没有高度的洞察，我们就很难保证机器会遵循一套保护人类价值观的有良知的模型

4.2.1. 监测这些机器提供的广阔机会，减少它们可能带来的巨大风险，是释放人工智能所有潜能的必经步骤

4.3. OpenAI

4.3.1. 这一组织的使命是“打造安全的人工智能，确保人工智能的效益尽可能广泛而均匀地分配”

4.3.2. 为一个伦理问题提供技术解决方案

4.4. 新的政策和社会解决方案不能仅仅依靠技术，它们需要更广泛的社会讨论，以应对人工智能新时代的机会和挑战

4.4.1. 我们的工作机会和身份认同正变得岌岌可危

5. 价值、权力和信任

5.1. 从轮子的发明到内燃机的出现，从第一台个人电脑到当下最复杂的超级电脑，科技一直在改变我们的生活和工作方式

5.1.1. 科技重新定义了我们如何生产、学习、获取财富、与他人互动，也重新定义了我们生活中的制度规则

5.2. 凭借着复制人类认知和身体机能的能力，人工智能已经成了我们日常生活的一个独特的参与者

5.2.1. 重塑的方式也取决于人类和机器之间的力量制衡

5.2.2. 算法利用海量数据流，早已看穿了我们的伎俩，它会更加客观地呈现我们

5.2.3. 那些聪明的算法和算法设计者决定要忠实地给用户画像，所有的缺陷都不放过

5.3. 与人工智能对话的最大问题在于，我们正在谈论的是人工智能会对我们做什么

5.4. 而随着人工智能的演化，我们应该谈论的是，人类正在对自己做什么

5.5. 考虑

5.5.1. 这些智能系统如何代表人类多元化的价值观和身份？

5.5.2. 人工智能的决策以主人为中心？

5.5.3. 人工智能将我们的自身利益和家庭利益最大化，还是希望它被设为“圣人模式”？

5.5.4. 各个社会群体的价值和自我价值该如何分出高低？

5.5.4.1. 由谁来进行这样的评价？

5.5.5. 当公司搜集到越来越多关于用户态度、行为和偏好的数据时，他们使用的算法是否会将顾客利益和社会利益放在第一位，抑或会完全唯利是图？

5.5.6. 这些决定直接关系到我们要对社会和周围的人施加什么样的影响力

5.6. 在价值和权力充满不确定性的环境中，我们脆弱的信任成了这个社会中最宝贵的货币，甚至比金钱和知识更宝贵

5.6.1. 对人工智能缺乏了解将为可信度和诚信度带来更高的溢价

5.7. 根据我们的搜索历史，要给出解释可能再简单不过，而我们也只是笑笑

5.7.1. 但事实上，我们不可能总是知道系统会如何对我们进行分类和划分

5.7.2. 随着算法在生活中的角色越来越重要，我们希望机器会公平地对待每一个人，引领人类走向最美好的未来

5.7.3. 这一重任将落到那些指引我们未来创新的算法设计者和道德框架制定者身上

6. 人的因素

6.1. 医疗保健行业已俨然成为最受瞩目的人工智能应用行业之一

6.1.1. 2016年，IBM（国际商业机器公司）的沃森肿瘤医生（Watson for Oncology）宣布将与探索诊断公司（Quest Diagnostics）开展一项合作，将其强大的人工智能技术与后者的肿瘤基因组测序技术相结合

6.2. 以机器和人类为主导的医疗服务之间的界限正在变得越来越模糊

6.2.1. 考虑到人工智能系统能够搜集、处理和学习的研究数据超过任何一位人类专家所能消化的研究数据，我们将在多大程度上信赖这些系统的分析能力？

6.2.2. 机器检测放射影像异常的能力已经远远超过了人类

6.2.3. 我们很难想象沃森或其他任何人工智能给出的建议会与我们最终选择的道路相同

6.3. 许多在现代医学的客观分析框架之外所发生的事情，最终对安的康复产生了巨大的影响

6.3.1. 第二位医生乐于承认自己在专业知识上的局限性，并欣然接受了其中的一些新信息

6.3.2. 如果我们的第二位医生用人工智能生成的统计分析来补充他的建议，那么我们还会决定遵从自己的内心去选择风险更大的道路吗？

6.3.3. 这种疾病是可以战胜的，她将癌症想象为被白细胞取代的行为不当的细胞

6.3.4. 出于母亲的本能，她有强烈的意愿要保护孩子的健康，这也使她更加坚强

6.3.5. 尽管从科学角度来说，数据具有客观性和真实性，但人工智能并不能保证所有的治疗都能奏效

6.3.6. 它的建议只是基于过去的结果，它只能基于统计归纳来预测未来

6.3.7. 有时候，直觉反应可能会更好

6.4. 如果她选择了与标准治疗方案更接近的治疗路径，同样的风险依旧存在

6.4.1. 替代路径并不总是奏效，而且大多数的标准治疗方法之所以成为标准，是因为它们的疗效和其他疗法一样好，甚至更好

6.4.2. 安的经历说明了人们决策的广度和由此产生的可能性，这也表明让机器去捕捉人类的复杂性是多么困难

6.4.3. 安愿意承担风险，因此成了一个产生不同结果的积极例证

6.5. 一个以人工智能为基础的平台可能会更倾向于规避风险，而不愿尝试另一种未经证实的方法

7. 机器的因素

7.1. 沃森当然不是万能药

7.1.1. 除了偶尔召开的新闻发布会或大胆预测，没有一位沃森的开发人员或参与研究的医生声称人工智能将取代人类医生及其专业技能

7.1.2. 它能够在平均40秒的时间内读取病人的数据进行分析，并反馈治疗建议

7.1.2.1. 人类小组处理一个病例需要大约12分钟

7.1.3. 当遇到更复杂的癌症时，包括类似于安所患的癌症，这一匹配率会下降

7.2. 人工智能是一种有用的补充，可以从大量的癌症文献中学习，更好地帮助医生制订诊疗方案

7.2.1. 人工智能将帮助人类（而非取代人类），已成为人工智能支持者的普遍观点

7.2.2. 虽然机器在某些诊疗任务中已经达到甚至超过了人类的能力，例如梳理大量的医学报告或识别异常的放射影像，但它们还不能提供可靠的诊断，也不可能具备情感

7.2.3. 将来这些系统的结合将能更好地发现异常现象，并提供关于该疾病全球研究的简明概要，然后把两者都交给医生，并帮助病人在知情的情况下做出选择

7.2.4. 医生将不再进行基本的健康分析，而将从更广的角度来设计健康解决方案和项目

7.3. 目前很少有人像信赖医生那样信赖机器，这也是情有可原的

7.3.1. 对那些热衷于科学技术所带来的好处的人来说，人工智能在人类专业知识和能力之外的领域拥有一种神奇的力量

7.3.2. 印度的研究报告可能为强大的人工智能开始补充甚至取代充满了局限性、错误和偏见的人类判断提供了新证据

7.4. 没有一位专家怀疑人工智能将重塑整个医药行业，不论是药品、支付方式、成本控制，还是医患关系

7.4.1. 这些人类肉眼不可能注意到的微小异常，可能预示着高钾水平、心律不齐以及其他各种心脏和健康问题

7.4.2. 所有这些监测功能都集成在你的腕表中，只要通过手指触摸就可以实现

7.4.3. 这些领域的各种进步预示着人类在健康监测、诊断和治疗方面取得的非凡成就

7.5. 大数据并不一定代表强大的分析能力

7.5.1. 沃森关于癌症治疗的建议充其量只是与现有的存活率、癌症突变和治疗相关数据表现得一样好

7.5.2. 新的发现可以从根本上改变癌症及其他疾病的诊断和治疗方法

7.5.3. 人工智能系统可能会为个人和社群健康提供一种预测，但任何预测最终都依赖于数据和算法的质量，没有什么是完美的

7.5.4. 个人的任何偏好都会影响治疗效果，不论是更好还是更坏

7.6. Face2-Gene公司开发了一款应用程序，通过将患者的面部特征和患有疾病的人的面部特征做比较来诊断疾病，在疾病检测方面取得了令人印象深刻的进步

7.6.1. 从444名幼儿中成功预测出，约有380人具有自闭症谱系障碍

7.7. 处理巨大机遇和风险之间的平衡已经不只是一个医疗健康领域的问题了

7.7.1. 一些雇主已经开始利用人工智能对求职者的一段15分钟的语音样本进行分析，由此评估每一位对象，以寻找更具合作精神的员工或者更优秀的领导者

7.7.2. 汽车学会了自动驾驶，机器人提高了自己的制造能力或学会了对坐在一旁的人类情绪变化做出反应