10、以人为本的人工智能：研究目标、治理结构与软件工程实践

以人为本的人工智能：研究目标、治理结构与软件工程实践

在人工智能（AI）的发展进程中，以人为本的人工智能（HCAI）逐渐成为焦点。HCAI旨在将人类的需求、价值观和体验置于设计和开发的核心，以实现更可靠、安全和值得信赖的系统。

1. AI研究目标

AI研究主要聚焦于两个目标：
- 科学目标 ：基于AI科学，通过设计、构建和测试基于人类智能的系统，研究智能计算代理。其目的在于理解人类的感知、认知和运动技能，从而构建出性能与人类相当甚至超越人类的计算机。
- 创新目标 ：基于AI工程，进行HCAI研究，以开发成功且广泛应用的商业产品和服务。

开发者常探讨四对设计隐喻：
1. 智能代理与超级工具
2. 队友与远程机器人
3. 有保障的自主性与控制中心
4. 社交机器人与主动式电器

成功的设计往往采用综合策略，即让机器自动处理能产生可靠结果的任务，同时让用户保留对他们重要的创造性或安全性选择。例如，数码相机使用自动方法选择光圈、快门速度并减少抖动，同时允许用户构图、设置变焦并在满意图像预览时点击拍摄。

社交机器人虽然仍是热门目标，但商业成功远不及主动式电器或远程机器人。强大的AI方法包括深度学习、推荐系统、语音识别、图像理解和自然语言处理。成功的产品通常依赖于将这些AI方法与用户体验设计方法相结合，如收集用户需求、迭代设计、用户体验测试和遵循指南等。

2. HCAI治理结构

HCAI系统的实施引发了对伦理问题的关注，需要治理结构来弥合HCAI伦理原则与实践步骤之间的差距。