6、边缘AI的责任设计与伦理考量

边缘AI的责任设计与伦理考量

在当今科技飞速发展的时代，技术产品的设计与使用责任至关重要。一个设计不佳的科技产品，可能会给产品的终端用户、销售企业以及开发者带来毁灭性的灾难。

一、以Uber自动驾驶汽车为例

Uber大力投入自动驾驶汽车的研发，聘请行业知名人士并投入数十亿美元。然而，在急于在真实街道上测试系统时，其有缺陷的安全程序和无效的软件导致了一名行人的悲剧死亡。这一灾难致使Uber的自动驾驶项目关闭，数百名员工被裁员，自动驾驶汽车部门被贱卖给另一家公司。

Uber的自动驾驶汽车存在机器学习系统常见的故障模式，即无法理解训练数据集中未出现的情况。美国国家运输安全委员会指出，Uber的自动驾驶汽车“除非物体靠近人行横道，否则无法将其分类为行人”。开发者在未对自动驾驶汽车处理最常见操作条件的能力进行测试的情况下，就在公共道路上行驶，这显示出他们的无能和疏忽。

这一事件表明，即使是有能力的人在构建和部署技术时也可能忽略明显的问题。构建良好的技术本身就很困难，而且用只能反映部分考虑因素的技术来解决复杂问题更是难上加难。作为专业人士，我们有责任了解技术的局限性，审视我们的流程，严格评估我们的工作，并在项目似乎走向错误方向时愿意关闭它。

二、责任设计与AI伦理

责任设计对于构建有效的产品至关重要。有害的AI故障使得AI伦理成为大多数将AI集成到产品中的公司的重要考虑因素。对于开发者来说，伦理很重要，但往往很难知道什么是伦理以及如何将其付诸实践。审视产品开发过程背后的价值观是将伦理与边缘AI开发实际联系起来的一种方式。

（一）设计中的价值观

产品不能脱离其使用的背景。一个产品只有在对