14、以人为本的人工智能：发展现状与未来展望

以人为本的人工智能：发展现状与未来展望

一、HCAI系统概述

以人为本的人工智能（HCAI）系统代表了一种新的综合理念，它提升了人类绩效和体验的重要性。为创建可靠、安全和值得信赖的系统，提出了十五项治理结构建议，这些建议可归纳为四个层面：
1. 可靠系统 ：基于合理的软件工程实践。
2. 安全文化 ：通过商业管理策略实现。
3. 可信认证 ：由独立监督机构进行。
4. 政府监管 ：由政府机构实施。

这些治理结构面临诸多挑战，没有一个行业能完全实施所有建议，每个建议都需研究和测试来验证其有效性，并根据实际情况进行完善。而且，实际的HCAI系统由不同供应商的众多组件构成，部分建议在组件层面可行，但在整个系统层面实施难度较大。

二、全球对HCAI系统的关注

联合国国际电信联盟及其35个联合国合作伙伴机构积极推动AI在17项联合国可持续发展目标中的应用，涵盖医疗保健、环境、人权等多个领域。经合组织政策观察站和迈克尔·杜卡基斯人工智能与数字政策中心对全球HCAI努力进行跟踪，发布年度社会契约指数，记录25个国家在HCAI系统民主政策方面的进展。

三、HCAI面临的质疑与挑战

怀疑者担心HCAI系统设计不佳会导致失败、偏差、隐私侵犯和系统失控，恶意行为者可能利用AI传播错误信息、威胁安全、扩大网络犯罪和扰乱公共服务。更严重的问题包括致命自主武器系统、民主制度受破坏、种族偏见和监控资本主义等。批评者指出AI具有掠夺性，威胁环境、导致不健康