17、以人为本的人工智能：理念、发展与展望

以人为本的人工智能：理念、发展与展望

1. 信任与社会及HCAI的基础

信任是社会的基石。没有真相就没有信任，没有信任就没有社会。而在有人工智能与人类交互（HCAI）系统的环境中，信任同样至关重要。HCAI倡导以人为本的思维，将科学、工程、设计、艺术、社会科学和人文学科等多学科融合。

多学科的结合能够加速创造尊重人类权利、正义和尊严等价值观的技术，同时支持个人的自我效能感、创造力、责任感和社会联系等目标。其设计目标是打造可靠、安全且值得信赖的系统，推动种族正义、收入平等和环境保护等方面的进步。

我们期望通过携手合作，沿着规划的路线图，实现诸如医疗保健、经济增长、广泛教育、食品安全等联合国可持续发展目标。

2. HCAI面临的威胁与应对资产

在关注HCAI系统为众多利益相关者带来的积极价值、目标和愿景时，也不能忽视恶意行为者、偏见和有缺陷软件带来的威胁。外部威胁如犯罪分子、仇恨团体、恐怖分子和专制政客值得研究者、开发者、管理者和政策制定者关注。同时，有偏差的数据、关键决策中出现的无意识偏见以及有缺陷的软件等内部威胁也不容忽视。

在这场“安全之旅”中，我们需要具备以下资产：
- 对自身能力保持谦逊的态度。
- 坦然面对失败的可能性。
- 乐于接纳新思想。
- 具备在困境中做正确事情的勇气，平衡大胆尝试与谨慎行事的需求。

3. 多层面目标与参与机会

这些不同层面的具体目标为广泛参与提供了空间，也创造了众多贡献机会。尽管可能有怀疑者质疑研究者和技术创新者是否会调整工作以支持HCAI的理念和方法，但HCAI日益增长的关注度是一个积极信号。 </