四种方法下载网络文本数据到本地内存

使用Python从网络下载并导入CSV文件

最新推荐文章于 2024-10-17 18:44:22 发布

weixin_34192732

最新推荐文章于 2024-10-17 18:44:22 发布

阅读量234

点赞数

CC 4.0 BY-SA版权

文章标签： python

原文链接：https://yq.aliyun.com/articles/308712

本文介绍如何使用Python的urllib.request、requests、numpy、pandas等库从网络下载CSV文件，并将其导入为numpy矩阵或pandas DataFrame。通过三种方法实现：直接加载网络数据、使用genfromtxt函数和pandas的read_csv函数。最后，分离数据特征和目标属性进行展示。

import urllib.request

import requests
from io import StringIO

import numpy as np

import pandas as pd
'''
下载网络文件，并导入CSV文件作为numpy的矩阵
'''

# 网络数据文件地址
url = "http://archive.ics.uci.edu/ml/machine-learning-databases/pima-indians-diabetes/pima-indians-diabetes.data"

# 方法一
# ========================================================
# 下载文件
#r = urllib.request.urlopen(url)
# 导入CSV文件作为numpy的矩阵
#dataset = np.loadtxt(r, delimiter=",")

# 方法二
# ========================================================
# 下载文件
#r = requests.get(url)
# 导入CSV文件作为numpy的矩阵
#dataset = np.loadtxt(StringIO(r.text), delimiter=",") # 此处用到 StringIO ！！！！！！

# 方法三
# ========================================================
#用genfromtxt直接下载网络文件，并将CSV文件导作numpy矩阵。爽！！！！！！！！
#dataset = np.genfromtxt(url, delimiter=",")

# 方法四
# ========================================================
# 用pandas.read_csv直接下载网络文件，并将CSV文件导作pandas.DataFrame。
# dataset = pd.read_csv('http://www-bcf.usc.edu/~gareth/ISL/Advertising.csv', index_col=0)
dataset = pd.read_csv(url)

# ========================================================
# separate the data from the target attributes
X = dataset[:,0:7]
y = dataset[:,8]

print(X)
#print(y)