星环大数据平台 TDH inceptor 问题排查

一、四点

1.metastore
2.mysql
3.Inceptor server
4.ldap

二、日志收集

1.Inceptor server & metastore 日志

2.Inceptor server & metastore   jstack/jstat/jmap日志

三、常见问题

1.Inceptor server异常停止

2.Inceptor full gc

  a.小文件 map*reduce 数量太多
  b..长sql
  c.分桶过大
  d.jstack jmap
    sudo -u hive /usr/java/latest/bin/jstack 9150
    -- jmap
    sudo -u hive /usr/java/latest/bin/jmap -histo:live 56 > /var/log/inceptor1/jmap_histo.log
    -- dump
    sudo -u hive /usr/java/latest/bin/jmap -dump:live,format=b,file=/var/log/inceptor1/jmap_dump.log 58
  e.hive-server2.log
    gc jvm
  f.sql 
    udf 窗口函数 group by
  g.org.apache.hive.service.cli.session.HiveSessionImpl session泄露 ，这个的个数 如果超过500 一般就疑似泄露了

3.Inceptor executor重启

4.beeline登录超时/超慢