需求
最近在做文本分类,拿到的数据很乱。要做下一步,不管是分词还是tfidf都要先做数据的分类。
元数据
3万篇文章,在一个excel中,每行有每篇文章的id、内容(title_content)、分类(relative breeds),(共三列)。
目标
按分类创建子目录,文章按分类放入子目录中,每篇文章写入一个txt文件,txt文件标题为文章id
README
excel的读入使用了pandas,pandas的逐行读取功能很好用。
网上有些教程使用了xlrd,感觉有点复杂,而且xlrd好像有文件大小的限制。相比较而言pandas没有大小限制,个人感觉速度也比较快。
路径的操作使用了python标准库os。
同样的方法,也可以读取txt写入excel,读取csv写入excel。只需要更改pandas的读取文件函数就好了。
pandas真好用啊
"""
@version:python3.6
@author:chenyaooo
@concact:sunchingyo@icloud.com
"""
import pandas as pd
import os
def creatcatesdir(data, target):
"""
创建类别目录
"""
# 获取去重后的分类列表
cates = list(data['relative breeds'].unique())
print(cates)
for cate in cates:
# 拼接子目录路径
final_path = target + cate
try:
os.mkdir(final_path) # 创建目录
except Exception

本文介绍如何使用Python的pandas库将包含文章数据的Excel文件按分类逐行写入TXT文件。每篇文章被保存为一个独立的TXT文件,文件名对应文章ID,内容包括ID、标题和分类。通过创建子目录来组织不同分类的文章,简化了数据预处理步骤。
最低0.47元/天 解锁文章
1491





