数据科学与python——Pandas统计分析基础(数据堆叠+数据清洗)

本文介绍了如何使用Python的Pandas库进行数据合并,包括按日期对齐、纵向合并与去重。此外,讲解了异常值处理,依据3σ原则去除异常点。最后提到了神经网络建模的步骤,包括数据集划分、标准化处理以及增加新列的实践。

数据:
链接:https://pan.baidu.com/s/1-E2ShVTdI0X5lwDtMLFFsQ
提取码:0929

一.合并数据:获取完整的数据集。

1.读取数据

#数据所在的文件
metepath='./part/mete10-14.csv'
vipath='./part/vi10-14.csv'
# 读取数据
data_mete=pd.read_csv(metepath)
data_vi=pd.read_csv(vipath)

2.将两个csv文件按照mete.csv文件的日期对齐

按日期行向合并part文件夹下的两个csv,这两个文件日期范围不同,按照mete.csv文件的日期对齐;合并后的数据命名为data1

# 按日期行向合并part文件夹下的两个csv,按照mete.csv文件的日期对齐;
# <br/>合并后的数据命名为data1;
# <br/>若合并后的数据中有无效值,则使用无效值其所在列的平均值填充。
data1=pd.merge(data_mete,data_vi,on='Date',how='left')
data1['Date']=pd.to_datetime(data1['Date'])
data1=data1.fillna({
   
   'NDVI':np.mean(data1['NDVI']),'EVI':np.mean(data1['EVI'])})


3.纵向合并数据data1与data2

# 读取comb下面的csv文件,命名为data2;
# <br/>纵向堆叠合并data1和data2;
# <br/>堆叠之后需要去除重复数据;得到的数据命名为data3。
combpath='./comb/data04-10.csv'
data2=pd.read_csv
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值