Python读取csv数据文件,并按照指定比例划分为机器学习使用的训练集和测试集

本文介绍了一个用于从CSV文件中读取数据并将其划分为训练集和测试集的Python函数。通过设置参数,该函数能够灵活地处理监督和无监督的学习任务。
部署运行你感兴趣的模型镜像

    在使用机器学习等算法模型的时候,往往都会需要将数据加载到内存中才能够使用,对于原始数据我们往往需要按照一定的数据划分比例划分为测试集和训练集,如果想直接使用交叉验证来进行评估的话则不需要数据划分这个步骤。

    正好最近在做这方面的东西,写一个简单的小函数实现数据的读取与划分功能,下面是具体的实现:

def read_data(test_data='features.csv',n=1,label=1):
    '''
    加载数据的功能
    n:特征数据起始位
    label:是否是监督样本数据
    '''
    csv_reader=csv.reader(open(test_data))
    data_list=[]
    for one_line in csv_reader:
        data_list.append(one_line)
    x_list=[]
    y_list=[]
    for one_line in data_list[1:]:
        if label==1:
            y_list.append(int(one_line[-1]))   #标志位
            one_list=[float(o) for o in one_line[n:-1]]
            x_list.append(one_list)
        else:
            one_list=[float(o) for o in one_line[n:]]
            x_list.append(one_list)
    return x_list, y_list



def split_data(data_list, y_list, ratio=0.30):
    '''
    按照指定的比例,划分样本数据集
    ratio: 测试数据的比率
    '''
    X_train, X_test, y_train, y_test = train_test_split(data_list, y_list, test_size=ratio, random_state=50)
    print '--------------------------------split_data shape-----------------------------------'
    print len(X_train), len(y_train)
    print len(X_test), len(y_test)
    return X_train, X_test, y_train, y_test

    简单解释一下:

    read_data函数功能是将csv格式的特征数据读入内存中,其中有几个参数,n代表每一条样本中特征数据的起始位,由于我的csv文件每个样本行第一个数据单元为样本的id,不参与计算,这里n=1.label代表读取的数据是监督样本数据还是无监督样本数据。

    split_data是调用了sklearn的train_test_split函数,对其进行了简单的封装使用,可以输出按照制定比例ratio划分得到的训练集和测试集数据。

您可能感兴趣的与本文相关的镜像

Python3.9

Python3.9

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Together_CZ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值