17、以人为本的人工智能：理念、挑战与展望

以人为本的人工智能：理念、挑战与展望

1. 信任与社会基础

信任是社会的基石。没有真相，就没有信任；没有信任，就没有社会。当社会存在时，信任也随之存在，而信任需要有支撑它的东西。在追求以人为本的人工智能（HCAI）的过程中，信任同样至关重要。

2. 希望指南与现实政策路线图

追求HCAI需要一个希望指南和现实政策路线图。希望指南倡导以人为本的思维，融合科学、工程、设计、艺术、社会科学和人文学科等多个领域。这种跨学科的融合将加速技术的创造，这些技术既尊重人权、正义和尊严等人类价值观，又支持个人的自我效能、创造力、责任感和社会联系等目标。

设计目标是打造可靠、安全且值得信赖的系统，以推动种族正义、提高收入平等和环境保护等方面的进展。通过共同努力，我们有望沿着路线图实现诸如医疗保健/福祉、经济增长、广泛教育、食品安全以及其他联合国可持续发展目标等有价值的目标。

在关注HCAI系统对众多利益相关者的美好价值、目标和愿望的同时，我们也要警惕恶意行为者、偏见和有缺陷的软件带来的威胁。以下是相关威胁和应对资产的总结表格：
| 威胁类型 | 具体表现 | 应对资产 |
| ---- | ---- | ---- |
| 外部威胁 | 罪犯、仇恨团体、恐怖分子和压迫性政治家 | 谦逊的态度、对失败可能性的开放心态、接纳新想法的准备 |
| 内部威胁 | 有偏见的数据、关键决策中出现的无意识偏见、有缺陷的软件 | 勇敢做正确事情的勇气、大胆与谨慎的平衡 |

3. 个人对HCAI的热情起源

许多研究人员和从业者对HCAI的接受存在抵制和缺乏兴趣的情况。而个人对HCAI的热情源于