LIME：算法讲解

目录

一、简介

 1. 主要用途

2. 样例分析

二、基础理论

1. 对解释器算法的要求

2. 算法原理

3. 算法实现

4. 算法流程

三、 优缺点分析

优点

缺点

---

一、简介

        LIME算法是Marco Tulio Ribeiro2016年发表的论文《“Why Should I Trust You?” Explaining the Predictions of Any Classifier》中介绍的局部可解释性模型算法。该算法可以用在文本类与图像类的模型中，以分析模型提取到的特征是否符合直观理解。

 1. 主要用途

        在实际建模过程中，我们不仅需要使客户能够信服，同时也需要使自己信服。如果仅仅以数字，描述一个系统的性能，则显得略有偏颇，比如神经网络普遍可以达到高性能的效果，但可解释性低，因此如果能够从模型本身的底层逻辑出发，以它的视角观察事物，分析事物，解释事物，便可以明确模型的性能为什么好，为什么不好。这种时候，就可以利用本文要介绍的LIME算法，全称Local Interpretable Model-agnostic Explanations，可以理解为模型的解释器。

2. 样例分析

  

         一瓶葡萄酒的品质将对售卖价格产生直接影响，通过分析其化学成分，即可明确某一瓶葡萄酒的品质。通过LIME，从葡萄酒的可解释特征中分析得出，当alchol>11.4时将对其品质产生正向影响，真正做到搞清楚模型为什么认为好还是不好。

       根据一封邮件的文本内容，判断发信者是与“基督教“有关还是与”无神论教“有关，分类器本身达到了90%的准确率。但是利用LIME解释器，发现”无神论教“的重要特征，是”Posting“(邮件标头的一部分)，这个词与无神论本身并没有太多的联系。这意味着尽管模型准确率很高，但所学习到的特征是错误的。

二、基础理论