1. 相关概念 Hive Metastore有三种配置方式(根据元数据划分,元数据一般存储在关系型数据库里面),分别是: Embedded Metastore Database (Derby) 内嵌模式 把元数据存在内嵌…
分类:Hive
Hive的启动与关闭
1.关闭 可以通过ps -ef|grep hive 来看hive 的端口号,然后kill 掉相关的进程。 2.启动 nohup hive --service metastore 2>&1 & 用来启…
SparkSQL读取Hive数据插入Redis
(1)背景 目前使用Python读取Hive表,解析转换之后并发插入Redis,使用fetchone方法读取速度较慢,Python转换处理的速度也较慢。所以需要优化插入Redis的流程。 考虑使用SparkSQL读取数据…
Hive Sql优化集(on where过滤)
1.问题:考虑下面三个sql sql1: select * from (select log.*,a.batch_order_no,a.pm_code,a.bank_code,a.pay_status from pay_…