#分块

博主听虚神讲了分块后,找到一个神奇的博客,想保存该博客链接,强调分块大法好。
今天虚神讲了分块,emmm,然后我找到了一个神奇的博客。

其实就想保存个链接/
#!/usr/bin/python3 ########!/Library/Frameworks/Python.framework/Versions/3.10/bin/python3 from decode import stream_extract_and_save from chunk_data import chunk_data, sample_data import os import sys from pathlib import Path from rich.progress import Progress import time if __name__ == "__main__": if len(sys.argv) != 3: print("Usage: python main.py <input_file> <options t|f>") print("Options: t - save chunked data as .dat files, f - do not save chunked data") print("Example: python main.py data.dat t") sys.exit(1) if sys.argv[2] not in [&#39;t&#39;, &#39;f&#39;]: print("Error: Invalid option. Use &#39;t&#39; to save chunked data or &#39;f&#39; to not save.") sys.exit(1) input_file = sys.argv[1] input_file_dir = Path(input_file).parent input_file_name = Path(input_file).stem #note:此处采样一小部分数据 # sample_data(input_file, "sample_data.dat", 1000) # assert 0 if not os.path.isfile(input_file): print(f"Error: File &#39;{input_file}&#39; does not exist.") sys.exit(1) # 分块处理数据 if sys.argv[2] == &#39;t&#39;: start = time.time() npz_dir = Path(f"{input_file_dir}/npzdata/") chunked_dir = Path(f"{input_file_dir}/chunked_data/") os.makedirs(chunked_dir, exist_ok=True) os.makedirs(npz_dir, exist_ok=True) chunk_file_list = chunk_data(input_file, chunked_dir, save_dat=True) print("==================================================") print(f"开始解码数据文件...") print("==================================================") for chunk_file in chunk_file_list: output_file = npz_dir / str(chunk_file).replace(".dat", ".npz").split("/")[-1] print(f"处理分块文件: {chunk_file} -> {output_file}") stream_extract_and_save(str(chunk_file), output_file) print(f"✅所有分块文件已处理并保存为 .npz 格式,存放在: {npz_dir}") end = time.time() print(f"处理完成,总耗时: {end - start:.2f} 秒") else: save_dat = False start = time.time() npz_dir = Path(f"{input_file_dir}/npzdata/") os.makedirs(npz_dir, exist_ok=True) chunk_data(input_file, npz_dir) print(f"✅所有分块文件已处理并保存为 .npz 格式,存放在: {npz_dir}") end = time.time() print(f"处理完成,总耗时: {end - start:.2f} 秒")
06-27
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值