
Hadoop
Intelligebce
这个作者很懒,什么都没留下…
展开
-
MapReduce程序的依赖包
1.commons-cli:主要提供了解析命令行的库2.commons-logging:常用的日志相关库3.guava: guava的中文意思其实是石榴嘛,是google的一个开源项目。其中包含了很多java的常用库4.hadoop-common:hadoop的基础依赖库,包括配置文件,文件系统,通信,安全等。5.hadoop-mapreduce-client-core:顾名思义,这是编写mapr...转载 2018-06-22 14:35:23 · 1993 阅读 · 0 评论 -
maven报错Missing artifact jdk.tools:jdk.tools:jar:1.8解决方案
转自:https://blog.youkuaiyun.com/qy20115549/article/details/53004779在eclipse中,遇到了Missing artifact jdk.tools:jdk.tools:jar:1.8。其他也没有报错,感到很奇怪。原因:tools.jar包是JDK自带的,pom.xml中以来的包隐式依赖tools.jar包,而tools.jar并未在库中,只需要将...转载 2018-06-22 15:15:40 · 3955 阅读 · 0 评论 -
使用mapreduce实现wordcount
一、mapimport java.io.IOException;import java.util.StringTokenizer;import org.apache.hadoop.io.IntWritable;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.had...原创 2018-06-23 12:05:17 · 2170 阅读 · 0 评论 -
Java查看hadoop文件报错误
一、错误一:No FileSystem for scheme: hdfs解决办法:在conf后面添加下方代码conf.set("fs.hdfs.impl",org.apache.hadoop.hdfs.DistributedFileSystem.class.getName());错误二:org.apache.hadoop.hdfs.DistributedFileSystem导不进...原创 2018-09-05 16:45:05 · 374 阅读 · 0 评论 -
Java操作HDFS
一、读取hdfs文件数据方法一:使用hadoop URL读取数据 URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory()); InputStream in = null; try { in = new URL("hdfs://172.16.169.10:9000/Wo...原创 2018-09-06 16:44:31 · 668 阅读 · 0 评论