numpy-写入与读取

这篇博客介绍了numpy库中用于二进制文件和文本文件读写的函数,包括save()、savez()、load()、savetxt()、loadtxt()、genfromtxt()等。此外,还详细阐述了文本格式的选项,如设置浮点精度、概略显示阈值和换行符等。

二进制文件

save(),savez()和load()函数以及numpy专用的二进制类型(npy,npz)保存和读取数据,这三个函数会自动处理ndim、dtype、shape等信息,使用它们读写数组非常方便。

npy:以二进制的方式存储文件,在二进制文件第一行以文件形式保存了数据的元信息,可以用二进制工具查看内容。

npz格式:以压缩打包的方式存储文件,可以用压缩软件解压。

numpy.save(file,arr,allow_pickle = True,fix_imports =True) 

numpy.load(file,mmap_mode = None,allow_pickle = False,fix_imports = True,encoding = "ASCII")

import numpy as np 
outfile = r".\test.npy"
np.random.seed(20200619)
x = np.random.uniform(0,1,[3,5])
np.save(outfile,x)
y = np.load(outfile)
print(y)

[[0.01123594 0.66790705 0.50212171 0.7230908  0.61668256]
 [0.00668332 0.1234096  0.96092409 0.67925305 0.38596837]
 [0.72342998 0.26258324 0.24318845 0.98795012 0.77370715]]

savez()第一个参数是文件名,其后的参数都是需要保存的数组。

savez()输出的是一个压缩文件(扩展名npz),其中每个文件都是一个save()保存的npy文件,文件名对应数组名。load()自动识别npz文件,并且返回一个类似字典的对象,可以通过数组名作为关键字获取数组的内容。

将多个数组保存到一个文件,可以用numpy.savez()函数

import numpy as np 
outfile = r".\test.npz"
x = np.linspace(0,np.pi,5)
y = np.sin(x)
z = np.cos(x)
np.savez(outfile,x,y,z_d = z)
data = np.load(outfile)
np.set_printoptions(suppress = True)
print(data.files)
print(data["z_d"])
print(data["arr_0"])
print(data["arr_1"])

文本文件

savetxt(),loadtxt()和genfromtxt()函数用于存储和读取文本文件,genfromtxt()比loadtxt()更加强大,可对缺失数据进行处理

  • numpy.savetxt(fname,X,fmt="%.18e",delimiter = " ",newline = "\n",header = " ",footer = " ",comments = "#",encoding = None)

fname:文件路径

X:存入的文件数组

fmt:每个元素的字符串格式,默认%.18e

delimiter :分割字符串,,默认空格分割

  • numpy.loadtxt(fname,dtype = fload,comments = "#",deliniter = None,converters = None ,skiprows = 0,usecols = None ,unpack = False,ndmin = 0.encoding = "btypes",max_rows = None)

fname :文件路径

dtype:数据类型

comments :字符串或者字符串组成的列表,默认为#

skiprows:跳过多少行,一般跳过表头

usecols:元组

unpack:当加载多列数据时是否需要将数据列进行解耦赋值给不同的变量

写入或读出TXT文件


import numpy as np 
outfile = r".\test.txt"
x = np.arange(0,10).reshape(2,-1)
np.savetxt(outfile,x)
y = np.loadtxt(outfile)
print(y)

写入和读取CSV文件


import numpy as np 

outfile = r".\test.csv"
x = np.arange(0,10,0.5).reshape(4,-1)
np.savetxt(outfile,x,fmt = "%.3f",delimiter = ",")
y = np.loadtxt(outfile,delimiter = ",")
print(y)

genfromtxt()是面向结构数组和缺失数据处理的

numpy.genfromtxt(fname,dtype = float,comments = "#",delimiter = None,skip_header = 0,skip_footer = 0,converters =None,missing_valuse =None,filling_values=None,usecols = None ,names = None,excludelist = None,deletechars = "".join(sorted(NameValidator.defaultdeletechars)), replace_space='_', autostrip=False, case_sensitive=True, defaultfmt="f%i", unpack=None, usemask=False, loose=True, invalid_raise=True, max_rows=None, encoding='bytes')

import numpy as np

outfile = r'.\data.csv'
x = np.loadtxt(outfile, delimiter=',', skiprows=1)
print(x)
x = np.loadtxt(outfile, delimiter=',', skiprows=1, usecols=(1, 2))
print(x)
val1, val2 = np.loadtxt(outfile, delimiter=',', skiprows=1, usecols=(1, 2), unpack=True)
print(val1)  # [123. 110. 164.]
print(val2)
import numpy as np

outfile = r'.\data.csv'
x = np.genfromtxt(outfile, delimiter=',', names=True)
print(x)
print(type(x)) 
print(x.dtype)
print(x['id'])  
print(x['value1'])  
print(x['value2']) 
print(x['value3']) 

 

import numpy as np

outfile = r'.\data1.csv'
x = np.genfromtxt(outfile, delimiter=',', names=True)

print(x)

print(type(x))  

print(x.dtype)
print(x['id'])  
print(x['value1'])  
print(x['value2'])  
print(x['value3'])  

文本格式选项

  • numpy.set_printoptions(precision=None,threshold=None, edgeitems=None,linewidth=None, suppress=None, nanstr=None, infstr=None,formatter=None, sign=None, floatmode=None, **kwarg)

precision:设置浮点精度,控制输出的小数点个数,默认是8。

threshold:概略显示,超过该值则以“…”的形式来表示,默认是1000。

linewidth:用于确定每行多少字符数后插入换行符,默认为75。

suppress:当suppress=True,表示小数不需要以科学计数法的形式输出,默认是False。

nanstr:浮点非数字的字符串表示形式,默认nan。 infstr:浮点无穷大的字符串表示形式,默认inf。

import numpy as np

np.set_printoptions(precision=4)
x = np.array([1.123456789])
print(x)  

np.set_printoptions(threshold=20)
x = np.arange(50)
print(x)  

np.set_printoptions(threshold=np.iinfo(np.int).max)
print(x)

eps = np.finfo(float).eps
x = np.arange(4.)
x = x ** 2 - (x + eps) ** 2
print(x)  

np.set_printoptions(suppress=True)
print(x)  

x = np.linspace(0, 10, 10)
print(x)

np.set_printoptions(precision=2, suppress=True, threshold=5)
print(x)  
  • numpy.get_printoptions() Return the current print options.
    import numpy as np
    
    x = np.get_printoptions()
    print(x)

     

<think> 首先,用户的问题是关于Numpy数组读取写入方法的。系统指令要求我使用中文回答,结构化清晰,并生成相关问题。我还需要引用站内引用,在引用段落末尾添加引用标识。 查看提供的引用: - 引用[1]: 提到将Numpy数组保存到CSV文件,使用np.savetxt等方法- 引用[2]: 同样强调使用np.savetxt写入CSV文件。 - 引用[3]: 是关于Numpy数组的创建方法,但提到了从文件读取数据,包括使用np.loadtxt等。 - 引用[4]: 详细说明了Numpy数组的保存读取方法,包括npy格式、txt格式bin格式。 用户的问题直接是:“我想获取numpy数组读取写入的相关知识 请问numpy数组读取写入方法”。所以,我需要聚焦在读取写入上。 结构化回答: 1. **介绍**:简要说明Numpy在处理数组时的优势,以及读取写入的重要性。 2. **方法**:详细描述各种读取写入方法,基于引用: - CSV格式:使用np.savetxtnp.loadtxt。 - NPY格式:使用np.savenp.load。 - 二进制格式:使用tofilenp.fromfile。 - 其他方法:如从文件读取。 3. **示例代码**:提供一些Python代码示例,展示具体用法。 4. **相关提示**:比如数据类型、维度限制等注意事项。 5. **生成相关问题**:在结尾生成相关问题,有助于用户深入学习。 确保使用LaTeX语法: - 所有行内数学表达式用$...$格式。 - 独立公式用$$...$$格式(如果需要,但这里可能不需要)。 - 代码块使用```python ... ```格式。 引用处理: - 当引用内容时,在段落末尾添加[^数字]。 - 例如,引用np.savetxt时,附上[^2]。 回答结构: 1. 开头:确认用户查询。 2. 主体:分点解释方法- 写入方法- 读取方法- 每种格式的优缺点。 3. 代码示例:包括CSVNPY格式。 4. 结尾:总结生成相关问题。 生成相关问题: - 基于主题,如优化方法、性能比较、特定场景应用等。 - 例如: 1. 如何优化Numpy数组的读写性能? 2. Numpy数组Pandas DataFrame在文件操作中的区别? 3. 如何处理大型Numpy数组的读写? 确保语言中文,可靠准确。 </think> 以下是关于NumPy数组读取写入方法的详细解答。我会基于站内提供的引用信息,结合NumPy的实际用法,逐步解释各种方法NumPy的核心优势在于高效处理多维数组数据,其读写操作支持多种格式,包括CSV、NPY二进制文件、TXT文本文件等。下面我将从写入方法读取方法两个方面结构化说明,并提供代码示例注意事项。所有内容均遵循NumPy官方文档引用数据的真实实践[^2][^3][^4]。 ### 1. NumPy数组写入方法 NumPy提供多种函数将数组保存到文件中,根据格式需求选择对应的函数: - **CSV格式(逗号分隔值)**:适用于数据交换或Excel兼容场景,但仅支持1维或2维数组- 使用`np.savetxt`函数,指定分隔符(默认为空格)。 - 示例代码: ```python import numpy as np # 创建一个2维数组 a = np.arange(0, 100).reshape(10, 10) # 写入CSV文件(分隔符为逗号) np.savetxt("data.csv", a, delimiter=",") ``` 此方法数组保存为文本文件,便于人类阅读跨平台使用[^1][^2]。 - **NPY二进制格式**:高效存储原始二进制数据,支持任意维度数组,适合快速读写。 - 使用`np.save`函数保存为`.npy`文件。 - 示例代码: ```python # 保存数组到NPY文件 np.save("array.npy", a) ``` 优势:文件小、读写快,适合大规模数据处理[^4]。 - **TXT文本格式**:类似于CSV,但更通用,可通过`np.savetxt`实现(无特定分隔符要求)。 - 示例代码: ```python # 写入TXT文件(默认空格分隔) np.savetxt("data.txt", a) ``` 注意:CSV类似,仅支持1维或2维数组[^4]。 - **二进制格式(BIN)**:直接使用数组的`tofile`方法,保存原始字节数据。 - 示例代码: ```python # 保存为BIN文件 a.tofile("data.bin") ``` 优点:高效,但读取时需手动指定数据类型形状,否则可能出错[^4]。 **注意事项**: - CSVTXT格式对高维数组(>2维)支持有限,需先展平或转换。 - NPY格式是最推荐的方法,因为它保留元数据(如dtypeshape),无需额外处理。 - 二进制格式(BIN)读取时必须指定dtypereshape,否则数据会损坏[^4]。 ### 2. NumPy数组读取方法 读取文件时,需匹配写入格式以确保数据完整性: - **CSV格式读取**:使用`np.loadtxt`,指定分隔符dtype。 - 示例代码: ```python # 读取CSV文件 b = np.loadtxt("data.csv", delimiter=",", dtype=np.int32) ``` 适用于从外部工具(如Excel)导入数据[^2]。 - **NPY格式读取**:使用`np.load`函数,自动还原数组形状类型。 - 示例代码: ```python # 读取NPY文件 b = np.load("array.npy") ``` 这是最安全的方法,完整保留数组属性[^4]。 - **TXT格式读取**:类似CSV使用`np.loadtxt`。 - 示例代码: ```python # 读取TXT文件 b = np.loadtxt("data.txt", dtype=np.float) ``` - **二进制格式(BIN)读取**:使用`np.fromfile`,必须指定dtypereshape。 - 示例代码: ```python # 读取BIN文件(假设原数组为2维整数数组) b = np.fromfile("data.bin", dtype=np.int32).reshape(10, 10) ``` 如果dtype或shape不匹配,数据会解析错误[^4]。 - **从其他文件读取**:NumPy支持从字符串或缓冲区创建数组,如引用[3]中所述的使用`np.array`转换序列对象[^3]。 - 示例代码: ```python # 从Python列表创建数组 data_list = [[1, 2], [3, 4]] c = np.array(data_list) ``` **通用提示**: - 读写前确保数组维度兼容:CSV/TXT限1-2维,NPY/BIN支持任意维。 - 性能比较:NPY格式读写最快(二进制),CSV最慢(文本解析),大型数据集优先用NPY。 - 错误处理:读取时添加`try-except`块捕获文件不匹配异常,例如: ```python try: d = np.load("missing_file.npy") except FileNotFoundError: print("文件不存在!") ``` ### 总结 NumPy数组的读写主要依赖`np.savetxt`/`np.loadtxt`(用于文本格式)、`np.save`/`np.load`(用于二进制NPY格式)、以及`tofile`/`np.fromfile`(用于原始二进制)。推荐优先使用NPY格式以提高效率可靠性。实践中,根据数据大小兼容性需求选择合适方法:小型数据分析用CSV,高性能计算用NPY/BIN[^1][^2][^4]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值