关于阿里云上Hive的一次Debug经历

Bug

Shell层面:

《关于阿里云上Hive的一次Debug经历》 shell层面报错

日志层面(hive的日志默认在/tmp/{username}/hive.log)

《关于阿里云上Hive的一次Debug经历》 日志层面

webUI层面

《关于阿里云上Hive的一次Debug经历》 webUI

Debug

  1. 对于日志所报的错误,网上统一的解决方案如下:
    hive 部署需要注意的几点以及Version information not found 错误解决办法
    即在hive-site.xml中将hive.metastore.schema.verification中的值改为false
    但是我的配置文件中的内容已经是fasle了。

2.后来经阿里嵩林大神帮助后,解决了该问题。而在解决该问题后,细思了一下,之所以一直困在Debug第一点是陷入了一个盲点,抱着网上解答不适用的情形,却没想过是否压根配置不生效。

《关于阿里云上Hive的一次Debug经历》 schematool对比

通过上图的schematool -dbType mysql -initSchema对比,发现在上面有问题的节点上metastore connection URL是hive内置的Derby,而不是配置的MySQL,顺藤摸瓜。可能是hive-site的文件没被读取到,也就是说hive-conf没生效,所以看了下环境变量:

《关于阿里云上Hive的一次Debug经历》 Hive环境变量

发现问题所在了,之前在部署kylin时,提示找不到
HIVE_CONF的环境依赖,于是乎自己贸然将
HIVE_CONF_DIR改为了
HIVE_CONF
由此读不到配置文件,然后走内置derby,不走mysql,最后抛版本找不到的异常

总结

过于依赖日志有时会造成盲点,排查问题的时候应该多角度的去思考,既要结合日志,也要留意一些辅助命令输出的内容是否异样,同时还要记住自己曾经的操作,慢慢回溯,多位一体的去Trouble Shooting!

    原文作者:司小幽
    原文地址: https://www.jianshu.com/p/4976b5abcfbd
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞