Transformers-Interpret 使用教程

Transformers-Interpret 使用教程

transformers-interpret Model explainability that works seamlessly with 🤗 transformers. Explain your transformers model in just 2 lines of code. 项目地址: https://gitcode.com/gh_mirrors/tr/transformers-interpret

1. 项目介绍

Transformers-Interpret 是一个模型解释性工具，专门设计用于与 🤗 Transformers 包配合使用。该项目允许任何 Transformers 模型在两行代码内得到解释，遵循 Transformers 包的哲学。Transformers-Interpret 为文本和计算机视觉模型提供了多种解释器。此外，它还支持在笔记本中可视化，以及生成可保存的 PNG 和 HTML 文件。

2. 项目快速启动

首先，确保已经安装了 Transformers 包。可以使用以下命令进行安装：

pip install transformers

接着，安装 Transformers-Interpret：

pip install transformers-interpret

以下是一个快速启动文本解释器的示例代码：

from transformers import AutoModelForSequenceClassification, AutoTokenizer
from transformers_interpret import SequenceClassificationExplainer

# 初始化模型和分词器
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# 创建解释器实例
cls_explainer = SequenceClassificationExplainer(model, tokenizer)

# 获取文本的解释
word_attributions = cls_explainer("我喜欢你，我喜欢你")

# 输出解释
print(word_attributions)

3. 应用案例和最佳实践

序列分类解释器

使用序列分类解释器可以对模型对特定文本的分类进行解释。以下是一个示例：

# 获取文本的解释
word_attributions = cls_explainer("我非常喜欢你，但是我也有点不喜欢你")

# 输出解释
print(word_attributions)

# 获取预测的类名
predicted_class_name = cls_explainer.predicted_class_name
print(predicted_class_name)

# 可视化解释
cls_explainer.visualize("distilbert_viz.html")

多类问题

对于多类问题，可以获取不同类的解释：

# 获取不同类的解释
attributions = cls_explainer("这是一个复杂的句子，包含多种情绪", class_name="NEGATIVE")
print(attributions)

# 可视化不同类的解释
cls_explainer.visualize("distilbert_negative_attr.html")

4. 典型生态项目

Transformers-Interpret 可以与多种生态项目结合使用，以下是一些典型的项目：

• Captum：用于模型解释性的库，可以帮助可视化解释。
• Streamlit：用于构建数据应用和仪表板的库，可以与 Transformers-Interpret 结合创建交互式解释界面。
• Jupyter Notebook：可以在 Jupyter Notebook 中直接使用 Transformers-Interpret 进行模型解释，并实时查看结果。

通过这些生态项目的配合使用，可以更好地理解和解释模型的预测结果，从而提高模型的可靠性和可解释性。

transformers-interpret Model explainability that works seamlessly with 🤗 transformers. Explain your transformers model in just 2 lines of code. 项目地址: https://gitcode.com/gh_mirrors/tr/transformers-interpret