【数据应用案例】AI算法与道德规则如何平衡？IBM推出AI推荐技术

案例来源：@雷锋网

案例地址：

https://www.leiphone.com/news/201807/b1qadmWOWgBYVs1b.html

 

1. 背景：现有推荐算法（如今日头条、netflix）容易让用户进入“过滤泡泡”，高度同质化的信息流阻碍人们认识真实的世界。同时一些家长也希望能限制儿童对一些色情、暴力信息的浏览。如果仅仅用规则法，难以过滤对所有情况进行过滤，因此采用一种类似lookalike的方法进行过滤。

 

2. 方法：

    1）线下：由父母提供一组合适与不合适的电影的示例，训练道德约束模型

    2）线上：由于推荐模型与道德约束模型会冲突，由父母设置两个方面的比例。根据权重，最终推荐模型调整推荐排序

    【算法论文见：http://www.ijcai.org/proceedings/2018/0843.pdf，阅读后更新笔记】

 

3. 应用场景：

    1）父母对子女信息流进行过滤（暴力与色情等）

    2）医疗保健中，权衡药效和对生活质量的限制