Python 读 arff 格式数据

最新推荐文章于 2025-06-10 14:46:00 发布

原创

最新推荐文章于 2025-06-10 14:46:00 发布 · 2.3k 阅读

6 ·

CC 4.0 BY-SA版权

文章标签：

#python #pandas #机器学习

这篇博客介绍了如何使用Python解析Yahoo数据集的ARFF文件，该文件在数据部分采用了稀疏格式。通过自定义函数`parse_row`和`read_data_arff`，可以有效地读取并转换数据到DataFrame。代码首先读取文件内容，然后获取列名，并逐行解析数据，将字符串转换为数值类型，最后构建DataFrame返回。

1、Yahoo 数据集介绍

以yahoo 为例：

@attribute为列名内容，@attribute Label26 {0,1}表示，列名为Label26 ，取值为0或1。列名中包含了对每个对象的属性描述以及多标签内容。Label26表示第26个标签。

@data 为数据内容，{8 1，11 1，....} 表示第8列，取值为1。每一对{}之间的数据，描述一个对象。

2、代码

scipy无法读取稀疏arff文件（{}在文件中）。而文件yahoo_arts.arff在其@data部分使用稀疏格式。直接读取会报错valueError: could not convert string to float: '{8 1'，可采用下述代码替代处理。

import numpy as np
import pandas as pd

def parse_row(line, len_row):
    line = line.replace('{', '').replace('}', '')

    row = np.zeros(len_row)
    for data in line.split(','):
        index, value = data.split()
        row[int(index)] = float(value)

    return row

def read_data_arff(filename):
    # Step 1. Read data by row.
    with open(filename, 'r') as fp:
        file_content = fp.readlines()

    # Step 2. Get the columns.