14、以人为本的人工智能：发展现状与未来展望

以人为本的人工智能：发展现状与未来展望

1. 以人为本的人工智能（HCAI）概述

HCAI 系统代表了一种新的综合理念，它提升了人类绩效和体验的重要性。为创建可靠、安全和值得信赖的系统，提出了十五项治理结构建议，这些建议可归纳为四个层面：
- 基于良好软件工程实践的可靠系统。
- 通过商业管理策略营造安全文化。
- 由独立监督机构进行可信认证。
- 政府机构实施监管。

这些治理结构面临诸多挑战，没有一个行业能完全实施所有建议，每个建议都需研究和测试来验证其有效性，并根据实际情况进行完善。此外，实际的 HCAI 系统由不同供应商的多个组件构成，这使得某些建议在应用于完整系统时可能更具难度。

全球对 HCAI 系统兴趣浓厚，联合国国际电信联盟及其 35 个联合国伙伴机构致力于将 AI 应用于 17 项联合国可持续发展目标，以改善医疗保健、促进健康、保护环境和保障人权。经合组织政策观察站和迈克尔·杜卡基斯人工智能与数字政策中心对全球 HCAI 努力进行跟踪。

然而，怀疑者担忧 HCAI 系统设计不佳会导致失败、偏差、隐私侵犯和系统失控，恶意行为者可能会滥用 AI 传播错误信息、威胁安全、扩大网络犯罪和破坏公用事业服务。但众多研究人员、企业领袖、政府政策制定者和民间社会组织的积极努力，让我们看到了更积极的前景。

2. HCAI 研究方向

HCAI 主题提供了丰富的研究可能性和应用场景，不同领域的研究人员有着不同的关注点：
- 技术导向的研究人员希望改进深度学习算法及其变体。
- 社会导向的研究人员致力于减少偏差，以确保系统公平、准确和有用。
- 伦理学家提