15、负责任的人工智能开发与使用：从理论到实践

负责任的人工智能开发与使用：从理论到实践

1. 因果分析与决策

在进行数据驱动的决策时，我们可以采用因果分析的方法。例如，当预测收入较高时，可能是模型存在误差，也可能是捕捉到了如税收策略这样的相关性。借助EconML Python包进行因果分析，通过提出“如果……会怎样”的问题来辅助决策。

以房屋定价场景为例，我们可以在数据集中选取特定房屋，分析增大车库面积或增加壁炉数量对建议价格的影响。还可以生成一个房屋表格，按照这些改变后价格涨幅的大小进行排序，从而将资源集中在影响最大的方面。此外，因果分析还可用于制定政策。比如，对于房屋销售，不再一概而论地认为增加门廊会提升房屋价值，而是通过“如果……会怎样”的问题分析得出：小地块上的老房子拆除现有门廊可能售价更高，而主楼层超过一定平方英尺的新房子增加门廊则能卖更多钱。

如果想进行更高级的因果推断，DoWhy Python库是不错的选择，它能帮助我们对假设进行建模并测试。对于不熟悉因果推断的人，ShowWhy可以通过图表展示数据关系，帮助我们提出问题、揭示假设，探索原因和混杂因素。

2. AI公平性问题

AI系统可能因多种原因表现出不公平性。训练数据反映了社会中的偏见，开发和部署过程中的决策，以及数据本身的缺陷（如不能代表所有用户）或系统自身的问题，都可能导致AI系统不公平。

AI不仅会放大训练集中偶尔出现的偏见，还可能引入新的偏见。例如，在翻译没有性别代词的语言时，可能会产生“男人是医生，女人是护士”这样的刻板关联。同时，我们还需考虑数据与现实世界的不匹配问题。比如，假设浏览网页时间长的人对该主题更感兴趣，却未考虑到网络连接慢或页面设计难读等因素。

AI公