
大数据
文章平均质量分 50
Y_Aryan
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Hive On Spark 报错:Failed to get a spark session: org.apache.hadoop.hive.ql.metadata.HiveException
脚本中含有:数据装载进hive表的sql语句,在执行脚本的时候发生报错。原创 2024-02-22 16:41:48 · 2806 阅读 · 0 评论 -
Flume启动脚本报错/无效
(1)执行 fl.sh stop时,能正常关闭。————> 表示该脚本能正常执行(权限为777)(2)但在执行 fl.sh start ,却发现没有启动任何一个服务器的 Flume进程(即 JPS都查不到Application)可以正常启动 Flume,用jps查询进程能查到 “Application”原创 2024-02-04 23:12:39 · 606 阅读 · 0 评论 -
调试到Job job = Job.getInstance(conf)时报错:java.lang.IIIegalStateException异常,无法评估 org.apache.hadoop.mapre
调试出现报错:java.lang.IIIegalStateException异常,无法评估 org.apache.hadoop.mapreduce.Job.toString()在本地创建MapReduce项目,调试的时候断点如果加在Driver类中,就会发现走到创建Job实例的时候。如果遇到这个问题,可以忽略它,这是一个非阻塞异常,即使有这个异常,程序仍然可以正常执行到最后。换句话说,即使运行这个项目没有任何问题,调试这个项目的时候也会报这个错。原创 2023-11-17 15:28:02 · 329 阅读 · 0 评论 -
Win11上运行本地编写的MapReduce程序报错org.apache.hadoop.io.nativeio.NativelO$POSIX.stat(Ljava/lang/String)
确保Hadoop_HOME环境变量正确配置;确保Path环境变量下有 %Hadoop_HOME%\bin确保%Hadoop_HOME%\bin目录下有 winutils.exe确保hadoop.dll放到C:Windows/System32下。原创 2023-11-17 15:26:16 · 326 阅读 · 0 评论 -
Windows本地运行MapReduce报错 java.lang.Exception: org.apache.hadoop.mapreduce.task.reduce.Shuffle$ShuffleE
当windows电脑用户名中包含了非法字符(如 Mr.Y包含了 . )就会导致文件路径解析失败,进而报错。即运行的时候,会自动在D盘(?)下生成一个tmp目录,再生成一个 hadoop-${usr}文件夹。原创 2023-11-12 23:33:28 · 486 阅读 · 1 评论 -
HADOOP启动集群报错JAVA_HOME is not set and could not be found.
当全部确认好java环境变量配置成功,在启动集群时还显示 JAVA_HOME is not set and could not be found.注意:如果普通用户输入命令成功显示jdk版本,root用户输入命令却显示找不到 Java命令。其中一种可能的解决办法是:修改环境变量的配置文件,并在普通用户和Root用户下都输入 Java -version 确认配置成功。的文件或符号链接,但这个文件不可执行或者已损坏,系统将尝试使用它而不会继续搜索。首先确保配置好 JAVA_HOME的环境变量。原创 2023-11-10 16:05:57 · 3387 阅读 · 1 评论 -
普通用户设置免密登录正常,root设置免密登录时输入密码显示Permission denied
注意,如果原命令是注销的,则需要取消注销后改为yes。进入配置文件后,将下面两个参数都设置为yes。原创 2023-11-10 00:16:56 · 894 阅读 · 1 评论 -
跨服务器执行命令遇到Permission denied(publickey,password)
(1)使得Hadoop102能够无密码直连Hadoop104,则此时Hadoop104接收SSH连接不再需要密码认证,也就不会报错Permission denied。这三个服务器两两之间可以互相使用scp命令,复制传送文件(每次只需要输入目标服务器的面密码即可建立二者之间的ssh连接)。现在有3个服务器,Hadoop102,Hadoop103,Hadoop104。可见,此时允许输入102和104服务器的密码,正确输入后即可成功传文件。经过查询可以得知,这个问题是一个。原创 2023-11-09 22:20:36 · 18 阅读 · 0 评论