机器学习读书笔记——模型可解释性的重要性

读书笔记：
Molnar, Christoph. “Interpretable machine learning. A Guide for Making Black Box Models Explainable”, 2019. https://christophm.github.io/interpretable-ml-book/.
2.1 Importance of Interpretability

What reasons drive the demand for interpretability and explanations?

Human curiosity and learning.

人类对未知事物充满了好奇心。尤其是我们需要机器学习模型去应对未知状况、突发事件。文中举例，大多数觉得不知道电脑是怎样运行的没什么问题，但是当你的电脑突然自动关机，人们还会这样认为吗？即使不为了解决问题，好奇心一直是人类学习的动力。

Human desire to find meaning in the world.

其实文中所写，让我想起来《大数据时代》中的一个论断。《大数据时代》中，认为人类的思考模式倾向于因果联系，即使是错的，在大脑中构建事物联系的因果关系，更易于人类在感性上接受。查理芒格也提到过一个心理现象，在请求、指挥或命令别人时，最好告诉其这么做的原因，这样被请求者更易于接受你的请求。《大数据时代》认为大数据分析更关注相关性而不是因果关系，他受限于当时的研究成果和应用领域，认为大数据分析很难进行因果分析，尤其是在面对数