7、迈向可信 AI：智慧城市中的人脸识别伦理与无人驾驶技术

迈向可信 AI：智慧城市中的人脸识别伦理与无人驾驶技术

可信 AI 系统的完整性要素

为实现完整性，AI 系统包含四个关键部分：
- ML 健康 ：机器学习模型和生产部署系统必须健康，即在生产环境中的表现符合预期，且在数据科学家规定的规范范围内。
- ML 可解释性 ：对于任何预测，必须能够确定机器学习算法为何会以特定方式运行，以及哪些因素导致了该预测。
- ML 安全性 ：机器学习算法在面对恶意或非恶意攻击（即试图改变或操纵其行为的行为）时，必须保持健康且可解释。
- ML 可重复性 ：所有预测都必须具有可重复性。如果结果无法准确重现，就无法确定是什么导致了该结果，也无法调试问题。

以下是这四个部分的表格总结：
| 要素 | 描述 |
| — | — |
| ML 健康 | 模型和部署系统按预期和规范运行 |
| ML 可解释性 | 能解释算法预测原因和影响因素 |
| ML 安全性 | 面对攻击时保持健康和可解释 |
| ML 可重复性 | 预测结果可准确重现 |

AI 的环境友好性问题

气候变化是全球面临的紧迫问题，而人工智能有望成为拯救环境的关键。AI 利用机器学习的力量在数据中寻找模式，帮助发现趋势。然而，AI 的能源消耗也很高。数据中心对于存储驱动 AI 系统所需的大量数据至关重要，但需要消耗大量能源。

2020 年，全球数据中心的用电量估计在 196 太瓦时（TWh）至 40