hadoop读取hdfs文件之hadoop入门3

小李飞刀李寻欢

于 2020-08-24 10:51:53 发布

阅读量335

点赞数

CC 4.0 BY-SA版权

分类专栏： NLP与推荐算法文章标签： hadoop hdfs

本文链接：https://blog.youkuaiyun.com/SPESEG/article/details/108094689

NLP与推荐算法专栏收录该内容

153 篇文章 ¥399.90 ¥499.90

订阅专栏

超级会员免费看

博主分享了在尝试使用hadoop读取lzo格式文件时遇到的问题，发现读取结果并未简化。文章提及hadoop在eBay的应用，介绍了hadoop的核心组件如HDFS、MapReduce，以及数据获取层的HBase、Hive、Pig等，并提到了ZooKeeper和Mahout的相关作用。最后，博主建议查阅官方文档和其GitHub资源来进一步了解hadoop。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

hi大佬们好，我是小菜鸟。

前面安装了简单的hadoop以及下载hdfs文件，但是仍旧不能解决实际问题。

实际问题是什么？

别人的hdfs存储的可能就是TXT文件等简单易读的文件吧，而我这里是lzo格式的，群里大佬说安装hadoop就能直接读取，但是读取结果如下，真是和转换为TXT是一样的结果啊，也没简化。

20/08/19 10:12:38 INFO lzo.GPLNativeCodeLoader: Loaded native gpl library
20/08/19 10:12:38 INFO lzo.LzoCodec: Successfully loaded & initialized native-lzo library [hadoop-lzo rev f95c54e7ac4f8cdfeb424ba08e51b0ce4b80da08]
20/08/19 10:12:38 INFO Configuration.deprecation: hadoop.native.lib is deprecated. Instead, use io.native.lib.available
\N\N\N\N---2020-08-17 21:55:08,372\N\N\NiogYoIC\Nhot\N\N\N\N\N\N\Npush0009cc3d7a18a43d\N\N--\N\N