浅析hadoop写入数据api

本文主要探讨了Hadoop中用于写入数据的FSDataOutputStream类,详细介绍了如何通过FileSystem创建实例,包括使用create()和append()方法。在使用append()时需要注意dfs.support.append配置属性,以及早期版本不支持append操作的问题。此外,文章还提醒在获取文件大小时,FileStatus.getLen()在写入过程中可能不准确,建议使用FSDataInputStream的size()方法来获取缓冲区的实时大小。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

对于一般文件,都有满足随机读写的api。而hadoop中的读api很简单用FSDataInputStream类就可以满足一般要求,而hadoop中的写操作却是和普通java操作不一样。

hadoop对于写操作提供了一个类:FSDataOutputStream,这个类重载了很多write方法,用于写入很多类型的数据:比如字节数组,long,int,char等等。像FSDataInputStream一样,要获得FSDataOutputStream的实例,必须通过FileSystem该类来和HDFS建立连接,然后通过路径返回FSDataOutputStream实例。FileSystem返回FSDataOutputStream实例的方法有两组:

  • create(Path p)函数,创建一个空文件,然后可以向该文件顺序写入
  • append(Path p)函数,打开一个已有文件,并最做文件末尾追加数据

以上两组函数都有多个重载版本,可以查阅手册。FSDataOutputStream不允许在文件中定位(而FSDataInputStream可以),这是因为hadoop只允许在一个已打开文件顺序写入或在文件尾追加数据,不允许在结尾之外其他文件写入数据。

在使用append的操作时可能返回异常

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值