TF-IDF权重策略

TF-IDF:词频逆文档权重方案。

含义:如果某个词或者短语在一篇文章中出现频率高,并且在其他文章中很少出现,则认为此词或者短语具有很好的类别区分能力,适合用来分类。


TF(词频):

指的是某一个给定词语在文件中出现的频率。

TF = 该词在文件中出现的次数/在文件中所有字词的次数之和


IDF(逆向文本频率):

是一个词语普遍重要性的度量。

IDF = log(总文件数目/包含该词语的文件的数目)。

注意: 一般会给分母同意加上一个1,防止出现分母为0的情况


然后计算TF和IDF的乘积,值越大说明该词越重要。


代码实现:

# -*- encoding:utf-8 -*-
import sys
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.feature_extraction.text import TfidfTransformer
# 配置UTF-8的环境
reload(sys)
sys.setdefaultencoding('utf-8')
corpus = [
    "My dog ate my homework.",
    "My cat ate the sandwich.",
    "A dolphin ate the homework"
]
vectorizer = CountVectorizer()
transformer = TfidfTransformer()
print(vectorizer)
# 对数据进行某种统一处理将数据缩放(映射)到某个固定区间
X = vectorizer.fit_transform(corpus)
# 打印出每个文字出现的次数并将其转换为矩阵形式 表示各个词语在对于文本下出现的次数
print(X.toarray())
print "(行数,列数)\t词语重要程度"
print transformer.fit_transform(X)



运行结果如下:





### 如何生成 TF-IDF 权重的可视化图表 为了生成 TF-IDF 权重的可视化图表,可以通过 Python 中常用的库如 `matplotlib` 或 `seaborn` 实现。以下是具体方法: #### 数据准备 首先需要计算每篇文章中各个词语的 TF-IDF 值。这一步可以通过 `sklearn.feature_extraction.text.TfidfVectorizer` 完成[^1]。 ```python from sklearn.feature_extraction.text import TfidfVectorizer # 文档列表 documents = [ "这部电影非常精彩", "我觉得这部电影很无聊", "演员的表现令人印象深刻" ] # 初始化TfidfVectorizer vectorizer = TfidfVectorizer() # 计算TF-IDF矩阵 tfidf_matrix = vectorizer.fit_transform(documents) # 获取特征名称(即词汇表) feature_names = vectorizer.get_feature_names_out() ``` #### 可视化实现 一旦得到了 TF-IDF 矩阵,就可以将其转换为便于可视化的形式并绘图。 ##### 方法一:热力图 (Heatmap) 热力图能够直观展示不同文档中各词语的权重分布。 ```python import pandas as pd import seaborn as sns import matplotlib.pyplot as plt # 将稀疏矩阵转为DataFrame df_tfidf = pd.DataFrame(tfidf_matrix.toarray(), columns=feature_names, index=["Doc 1", "Doc 2", "Doc 3"]) # 绘制热力图 plt.figure(figsize=(8, 6)) sns.heatmap(df_tfidf, annot=True, cmap="YlGnBu", fmt=".2f") # 显示数值,颜色渐变 plt.title("TF-IDF Weight Heatmap") plt.show() ``` ##### 方法二:柱状图 (Bar Chart) 如果只想关注某一篇文档中的关键词及其权重,可以使用柱状图。 ```python # 提取第一个文档的TF-IDF值 doc_index = 0 weights = df_tfidf.iloc[doc_index].sort_values(ascending=False)[:10] # 取前10个最高权重词 # 绘制柱状图 plt.figure(figsize=(8, 6)) weights.plot(kind='bar', color='skyblue') plt.title(f"Top Keywords in Document {doc_index + 1} by TF-IDF Weights") plt.xlabel("Words") plt.ylabel("TF-IDF Score") plt.xticks(rotation=45) plt.tight_layout() plt.show() ``` ##### 方法三:词云图 (Word Cloud) 利用 TF-IDF 结果生成更精确的词云图,增强视觉效果[^3]。 ```python from wordcloud import WordCloud # 合并所有文档的TF-IDF分数到一个字典 word_dict = dict(zip(feature_names, tfidf_matrix.sum(axis=0).A1)) # 创建词云对象 wc = WordCloud(width=800, height=400, background_color='white').generate_from_frequencies(word_dict) # 显示词云 plt.figure(figsize=(10, 7)) plt.imshow(wc, interpolation='bilinear') plt.axis('off') # 不显示坐标轴 plt.title("TF-IDF Based Word Cloud") plt.show() ``` 以上三种方式分别展示了全局视角下的权重关系、单篇文档内的重点词汇以及整体高频词汇的分布情况。 --- ### 注意事项 - 如果数据量较大,建议先筛选出部分高权重词汇再进行可视化,以免图形过于复杂难以解读。 - 使用 `TfidfVectorizer` 时可调整参数(如 `max_df`, `min_df`, `stop_words`)优化结果[^2]。 ---
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值