CM服务启动之后,web界面访问不到

本文详细介绍在Ubuntu系统下安装Cloudera Manager的过程,并提供了多种故障排除方案,包括解决cloudera-scm-server无法启动的问题、查看cloudera-scm-agent的日志、关闭防火墙、解决数据库连接异常等。

说在前面的话

  我的机器是总共4台,分别为ubuntucmbigdata1、ubuntucmbigdata2、ubuntucmbigdata3和ubuntucmbigdata4。(注意啦,以下是针对Ubuntu系统的)

  在ubuntucmbigdata1上执行了

sudo apt-get install cloudera-manager-daemons  cloudera-manager-server 


sudo apt-get install cloudera-manager-daemons  cloudera-manager-agent 

  即,ubuntucmbigdata1是既做server,又做agent。

 

 

  在ubuntucmbigdata2、ubuntucmbigdata3和ubuntucmbigdata4上执行了

sudo apt-get install cloudera-manager-daemons  cloudera-manager-agent 

  即,ubuntucmbigdata2、3、和4是只做agent。

 

 

  在ubuntucmbigdata1、ubuntucmbigdata2、ubuntucmbigdata3、ubuntucmbigdata4上

新建文件sudo vi /etc/apt/sources.list.d/cloudera-manager.list,复制以下内容到cloudera.list里

# Packages for Cloudera Manager, Version 5, on Ubuntu 14.04 x86_64
deb [arch=amd64] http://archive.cloudera.com/cm5/ubuntu/trusty/amd64/cm trusty-cm5 contrib
deb-src http://archive.cloudera.com/cm5/ubuntu/trusty/amd64/cm trusty-cm5 contrib

 

  并且在在ubuntucmbigdata1、ubuntucmbigdata2、ubuntucmbigdata3、ubuntucmbigdata4上

  向apt添加cloudera源公钥,在所有节点执行如下命令:

curl -s http://archive.cloudera.com/cm5/ubuntu/trusty/amd64/cm/archive.key | sudo apt-key add -

然后,再

sudo apt-get update

 

 

 

 

 

   问题详情

 

 

 

 

 

 

 

解决办法

  思路1:

Starting cloudera-scm-server: * Couldn't start cloudera-scm-server的解决办法(图文详解)

 

 

 

  思路2:

 

   查看cloudera-scm-agent的运行日志

复制代码
复制代码
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/log$ ll
total 20
drwxr-xr-x 5 bigdata bigdata 4096  2月 12  2016 ./
drwxr-xr-x 8 bigdata bigdata 4096  2月 12  2016 ../
drwxr-xr-x 2 bigdata bigdata 4096  6月 25 19:53 cloudera-scm-agent/
drwxr-xr-x 2 bigdata bigdata 4096  6月 25 19:52 cloudera-scm-server/
drwxr-xr-x 2 bigdata bigdata 4096  2月 12  2016 cmf/
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/log$ cd cloudera-scm-agent/
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/log/cloudera-scm-agent$ ll
total 40
drwxr-xr-x 2 bigdata bigdata  4096  6月 25 19:53 ./
drwxr-xr-x 5 bigdata bigdata  4096  2月 12  2016 ../
-rw-r--r-- 1 root    root    14757  6月 25 19:57 cloudera-scm-agent.log
-rw-r--r-- 1 root    root      935  6月 25 19:53 cloudera-scm-agent.out
-rw-r--r-- 1 root    root      202  6月 25 19:53 cmf_listener.log
-rw-r--r-- 1 root    root      539  6月 25 19:53 supervisord.log
-rw-r--r-- 1 root    root      449  6月 25 19:53 supervisord.out
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/log/cloudera-scm-agent$ cat cloudera-scm-agent.out 
[25/Jun/2017 19:53:01 +0000] 9651 MainThread agent        INFO     SCM Agent Version: 5.6.0
[25/Jun/2017 19:53:01 +0000] 9651 MainThread util         INFO     Generating Agent UUID for the first time: '/opt/cm-5.6.0/lib/cloudera-scm-agent/uuid'
[25/Jun/2017 19:53:01 +0000] 9651 MainThread agent        INFO     Adding env vars that start with CMF_AGENT_
[25/Jun/2017 19:53:01 +0000] 9651 MainThread agent        INFO     explicitly passing env var to supervisee: MGMT_HOME: /opt/cm-5.6.0/share/cmf
[25/Jun/2017 19:53:01 +0000] 9651 MainThread agent        INFO     explicitly passing env var to supervisee: ROOT: /opt/cm-5.6.0/lib/cmf
[25/Jun/2017 19:53:01 +0000] 9651 MainThread agent        INFO     Logging to /opt/cm-5.6.0/log/cloudera-scm-agent/cloudera-scm-agent.log
Error: could not find config file /opt/cm-5.6.0/run/cloudera-scm-agent/supervisor/supervisord.conf
For help, use /opt/cm-5.6.0/lib/cmf/agent/src/cmf/agent.py -h
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/log/cloudera-scm-agent$ 
复制代码
复制代码

 

 

 

 


  当cloudera-scm-server、cloudera-scm-agent start启动成功之后,可通过http://主节点IP:7180来访问CM,用户名密码都为admin。剩下的就是一直点下一步和根据具体的需求来配置集群了。

 

 

 注意,在此之前。

 

   注意,在此之前。

  ubuntucmbigdata1机器上,则需要执行

复制代码
bigdata@ubuntucmbigdata1:~$ sudo /usr/share/cmf/schema/scm_prepare_database.sh mysql scm scm scm_password

[sudo] password for bigdata: 
Sorry, try again.
[sudo] password for bigdata: 
JAVA_HOME=/usr/java/jdk1.7.0_80
Verifying that we can write to /etc/cloudera-scm-server Creating SCM configuration file in /etc/cloudera-scm-server Executing: /usr/java/jdk1.7.0_80/bin/java -cp /usr/share/java/mysql-connector-java.jar:/usr/share/java/oracle-connector-java.jar:/usr/share/cmf/schema/../lib/* com.cloudera.enterprise.dbutil.DbCommandExecutor /etc/cloudera-scm-server/db.properties com.cloudera.cmf.db. [ main] DbCommandExecutor INFO Successfully connected to database. All done, your SCM database is configured correctly! 

bigdata@ubuntucmbigdata1:~$ sudo service cloudera-scm-server start
[sudo] password for bigdata: 
Starting cloudera-scm-server: * cloudera-scm-server started


 

bigdata@ubuntucmbigdata1:~$

 


 

bigdata@ubuntucmbigdata1:~$ sudo service cloudera-scm-agent start
[sudo] password for bigdata: 
Starting cloudera-scm-agent: * cloudera-scm-agent started

bigdata@ubuntucmbigdata1:~$

 

 

 

 
复制代码

 

 

  然后,在ubuntucmbigdata2、ubuntucmbigdata3、ubuntucmbigdata4上

复制代码

 

bigdata@ubuntucmbigdata2:~$ sudo service cloudera-scm-agent start
[sudo] password for bigdata: 
Starting cloudera-scm-agent: * cloudera-scm-agent started


 

bigdata@ubuntucmbigdata2:~$



bigdata@ubuntucmbigdata3:~$ sudo service cloudera-scm-agent start
[sudo] password for bigdata: 
Starting cloudera-scm-agent: * cloudera-scm-agent started


 

bigdata@ubuntucmbigdata3:~$

 



bigdata@ubuntucmbigdata4:~$ sudo service cloudera-scm-agent start
[sudo] password for bigdata: 
Starting cloudera-scm-agent: * cloudera-scm-agent started


 

bigdata@ubuntucmbigdata4:~$

复制代码

 

 

 

  思路3:

  关闭这台机器的防火墙

bigdata@ubuntucmbigdata1:/opt$ sudo ufw disable
Firewall stopped and disabled on system startup
bigdata@ubuntucmbigdata1:/opt$ sudo ufw status
Status: inactive
bigdata@ubuntucmbigdata1:/opt$ 

 

 

 

  思路4:

复制代码
bigdata@ubuntucmbigdata1:/opt/cm-5.6.0/etc$ netstat -nltp
(No info could be read for "-p": geteuid()=1000 but you should be root.)
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:631           0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:19001         0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:6010          0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:6011          0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:6012          0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.1.1:9000          0.0.0.0:*               LISTEN      -               
tcp        0      0 127.0.0.1:3306          0.0.0.0:*               LISTEN      -               
tcp6       0      0 :::22                   :::*                    LISTEN      -               
tcp6       0      0 ::1:631                 :::*                    LISTEN      -               
tcp6       0      0 ::1:6010                :::*                    LISTEN      -               
tcp6       0      0 ::1:6011                :::*                    LISTEN      -               
tcp6       0      0 ::1:6012                :::*                    LISTEN      -               
复制代码

 

 

 

    思路5:

cloudera-scm-server启动时出现Caused by: javax.persistence.PersistenceException: org.hibernate.exception.GenericJDBCException: Could not open connection问题解决方法(图文详解)

 

 

 

    思路6:

    时间同步

ntpdate pool.ntp.org

  一般前面的6种思路是一定可以解决cloudera manager的7180 web界面访问不了

 

 

  思路7:(万不得已)

  最戳的办法,就是

http://www.aboutyun.com/thread-8992-1-1.html (包含centos、ubuntu、debian和rehat各版本都有)

  卸载它,重新来过。

正用得上,刚安装好的CDH5的CM server启不来,只好全部四节点卸载来过。


    

  如在ubuntu系统下

复制代码
bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera*
bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo apt-get purge 'cloudera-manager-*'
bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo apt-get purge 'cloudera-manager-*' avro-tools crunch flume-ng hadoop-hdfs-fuse hadoop-hdfs-nfs3 hadoop-httpfs hbase-solr hive-hbase hive-webhcat hue-beeswax hue-hbase hue-impala hue-pig hue-plugins hue-rdbms hue-search hue-spark hue-sqoop hue-zookeeper impala impala-shell kite llama mahout oozie pig pig-udf-datafu search sentry solr-mapreduce spark-python sqoop sqoop2 whirr


bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo apt-get clean
bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera* /var/log/cloudera* /var/run/cloudera*
bigdata@ubuntucmbigdata1:/opt/softwares/cm-5.6.0$ sudo rm -Rf /var/cache/apt/archives/cloudera*


复制代码

 

 

  再进一步卸载彻底干净

  见

Cloudera Manager卸载笔记

 

 

 

 

  然后,就可以继续了。(这是针对bin方式来安装)

 

 

 

   更多安装方法,请见

Ubuntu14.04下完美安装cloudermanage多种方式(图文详解)(博主推荐)

 

 

 

 

  也许,你在卸载中,会遇到如下问题

Clouder Manager安装时出现please remove the following file: /etc/cloudera-scm-server/db.properties问题解决(图文详解)

 

 

   最后成功!

 

 

### Sqoop 启动教程及常见问题解决方案 #### 一、Sqoop 启动基础命令 要启动 Sqoop 或执行 Sqoop Job,通常需要通过命令行操作。以下是基本的 Sqoop 启动方式: ```bash sqoop list-databases \ --connect jdbc:mysql://<hostname>:<port>/<database> \ --username <your_username> \ --password <your_password> ``` 此命令用于测试连接数据库并列出可用的数据库名称[^1]。 如果需要导入数据到 HDFS,则可以运行如下命令: ```bash sqoop import \ --connect jdbc:mysql://<hostname>:<port>/<database> \ --username <your_username> \ --password <your_password> \ --table <table_name> \ --target-dir <hdfs_target_directory> \ -m 1 ``` 该命令会将指定表的数据从 MySQL 导入到 HDFS 中[^2]。 --- #### 二、Sqoop 常见启动失败原因及解决方案 ##### 1. **环境变量未设置** Sqoop 需要依赖 Java 和 Hadoop 环境。如果没有正确配置 `JAVA_HOME` 和 `HADOOP_HOME`,可能会导致 Sqoop 启动失败。 解决方法: 确认环境变量已正确设置。可以通过以下命令验证: ```bash echo $JAVA_HOME echo $HADOOP_HOME ``` 如果为空或路径错误,请修改 `.bashrc` 文件,添加以下内容: ```bash export JAVA_HOME=/path/to/java export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin ``` 之后重新加载配置文件: ```bash source ~/.bashrc ``` 对于 Cloudera Manager 用户,可以在 CM Web 控制台中进入 Hive 配置界面,搜索 `hive-env` 并修改高级配置代码段中的路径[^3]。 --- ##### 2. **JDBC 驱动缺失** 如果目标数据库(如 MySQL)的 JDBC 驱动程序未安装或版本不匹配,可能导致 Sqoop 报错。 解决方法: 下载对应版本的 JDBC 驱动包,并将其放置在 Sqoop 的 lib 目录下。例如: ```bash wget https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-8.0.33.tar.gz tar -zxvf mysql-connector-java-8.0.33.tar.gz cp mysql-connector-java-8.0.33/mysql-connector-java-8.0.33.jar /path/to/sqoop/lib/ ``` --- ##### 3. **权限不足** 当尝试访问 HDFS 路径时,可能因权限不足而报错。 解决方法: 确保当前用户拥有足够的权限来读写目标目录。可以通过以下命令调整权限: ```bash hdfs dfs -chmod 777 /user/<your_user>/sqoopdata ``` --- ##### 4. **警告信息处理** 某些情况下,日志中会出现类似以下警告信息: ``` WARN mapreduce.Counters: Group org.apache.hadoop.mapred.Task$Counter is deprecated. Use org.apache.hadoop.mapreduce.TaskCounter instead ``` 这是由于旧版 API 已被弃用所致,不会影响功能实现,但如果希望消除此类警告,建议升级至最新版本的 Sqoop 和 Hadoop[^4]。 --- #### 三、调试工具与技巧 为了更高效地排查问题,可启用详细的日志记录模式: ```bash sqoop --debug ... ``` 这将提供更多的上下文信息以便定位具体错误。 --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值